Maailman ensimmäinen laki inhimillistä tekoälyä vastaan
Kiinassa astui tänään 15. heinäkuuta voimaan sääntely, joka rajoittaa tekoälyn ihmismäistä käytöstä. Kyseessä on maailman ensimmäinen kansallinen laki, joka kohdistuu nimenomaan tunnepohjaiseen ja inhimilliseen tekoälyvuorovaikutukseen.
Vaikutus näkyi heti Kiinan käytetyimmässä tekoälysovelluksessa. ByteDancen Doubao, jolla on noin 345 miljoonaa käyttäjää, ilmoitti jo 4. heinäkuuta sulkevansa käyttäjien itse luomat tekoälyagentit. Samalla linjalla toimii Alibaban Qwen.
Mitä uudet säännöt vaativat
Säännöt edellyttävät palveluilta riippuvuutta ehkäiseviä mekanismeja, alaikäisten tunnistautumista ja tehostettua sisällönvalvontaa. Kohteena ovat tekoälypalvelut, jotka pystyvät ihmismäiseen tunnevuorovaikutukseen.
Sääntelijät perustelevat rajoituksia huolella tunneriippuvuudesta, manipulaatiosta ja psyykkisistä haitoista, jotka koskettavat erityisesti lapsia ja ikääntyneitä.
Mitä käyttäjälle konkreettisesti tapahtuu
Doubaossa ei voi enää luoda uusia agentteja, ja aiemmin tehdyt lakkaavat toimimasta. Agentit ovat käyttäjien rakentamia räätälöityjä hahmoja ja apureita, esimerkiksi virtuaalisia keskustelukumppaneita, opiskeluvalmentajia tai roolihahmoja.
Käyttäjät pääsevät katsomaan agenttiensa asetuksia ja keskusteluhistoriaa vain lukutilassa 15. lokakuuta asti. Sen jälkeen tiedot poistetaan pysyvästi. ByteDance tarjoaa osalle sisällöstä siirtoreitin erilliseen Maobox-sovellukseen.
Puhdistus alkoi jo ennen lain voimaantuloa. Shanghain kybervalvonta poisti kesäkuun lopulla käynnistetyssä kampanjassaan yli 14 000 sääntöjen vastaista agenttia eri alustoilta.
“Tekoälyn tulee auttaa ihmisiä, ei vahingoittaa, harhauttaa tai käyttää heitä hyväksi.”
Länsi kulkee vastakkaiseen suuntaan
Kun Kiina vetää agentit pois kuluttajilta, lännessä tapahtuu päinvastaista. Samana päivänä kun Doubao sulki ominaisuutensa, Meta avasi yrityksille tarkoitetun agenttialustan ja Nvidia julkisti ServiceNow:n kanssa itseoppivan työpöytäagentin nimeltä Project Arc.
OpenAI:n, Anthropicin ja Googlen agenttituotteet laajenevat ilman vastaavia inhimillisyyttä koskevia rajoituksia. Länsimainen sääntely keskittyy toistaiseksi tekijänoikeuksiin, tietosuojaan ja mallien turvatestaukseen, ei siihen kuinka ihmismäinen tekoäly saa olla.
Ero kertoo kahdesta erilaisesta riskikäsityksestä. Kiina näkee tunnepohjaisen tekoälyn yhteiskunnallisena riskinä, jota valtio hillitsee etukäteen. Länsi luottaa siihen, että markkinat ja jälkikäteinen sääntely hoitavat ongelmat.
Kiinalle sääntely ei ole pelkkää käyttäjänsuojaa. Kuluttajille suunnatut agentit polttivat paljon laskentatehoa mutta tuottivat vähän tuloja. Sekä ByteDance että Alibaba kääntävät nyt katseensa yritysasiakkaisiin, ja Qwenin pilottikumppaneina on muun muassa ravintola- ja lentoyhtiöitä.
Tavalliselle käyttäjälle muutos tarkoittaa, että sama sovellus voi toimia eri tavoin riippuen siitä, missä maassa sitä käytetään. Jos suomalainen yritys rakentaa palvelunsa kiinalaisen tai länsimaisen tekoälyn varaan, se perii samalla kyseisen maan sääntelylinjan.
Kiinan malli on nyt konkreettinen esimerkki siitä, että agenttien leviämistä voi myös rajoittaa, ei vain vauhdittaa. Se antaa eurooppalaisille sääntelijöille vertailukohdan, kun EU pohtii omia rajojaan ihmismäiselle tekoälylle.
Viikoittainen uutiskirje
Tule firmasi fiksuimmaksi AI-osaajaksi
Yksi uutiskirje kerrallaan. Kokoamme viikon tärkeimmät tekoälyuutiset suomeksi ja kerromme, mitä ne tarkoittavat sinun työsi kannalta. Luet sen kahvitauolla.
