Kiina kieltää lasten tekoälyrakkaudet

Kiinan kyberturvallisuusviranomainen CAC julkaisi 3. huhtikuuta säännösluonnoksen, joka asettaa maailman tiukimmat rajat tekoälykumppanuudelle. Luonnos kieltää alle 18-vuotiaiden emotionaaliset suhteet digitaalisiin ihmisiin ja pakottaa kaikki tekoälypalvelut merkitsemään virtuaaliset persoonat selkeästi.

Digitaaliset ihmiset saavat merkintäpakon

Säännösluonnoksen ydin on yksinkertainen: käyttäjän on aina tiedettävä, puhuuko hän ihmiselle vai koneelle. Kaikissa palveluissa, jotka hyödyntävät ihmismäisiä tekoälypersoonallisuuksia, tulee näkyä jatkuva merkintä siitä, että kyseessä on tekoäly. Muistutukset aktivoituvat ensimmäisellä käyttökerralla, uudelleenkirjautuessa ja kun järjestelmä havaitsee merkkejä riippuvuudesta.

Palveluntarjoajat eivät saa luoda digitaalisia ihmisiä kenenkään henkilötiedoista ilman nimenomaista suostumusta. Vuorovaikutustietoja ei myöskään saa käyttää mallien koulutukseen ilman erillistä lupaa.

Alaikäiset eivät saa rakastua tekoälyyn

Luonnoksen kiistanalaisin kohta koskee lapsia ja nuoria. Alle 18-vuotiaille ei saa tarjota virtuaalisia intiimejä suhteita tai palveluja, jotka simuloivat perhe- tai rakkaussuhteita. Palvelujen suunnittelutavoitteena ei saa olla sosiaalisen vuorovaikutuksen korvaaminen, käyttäjän mielentilan manipulointi tai riippuvuuden aiheuttaminen.

Käytännössä tämä tarkoittaa, että kiinalaisnuorten suosimat tekoälykumppanisovellukset joutuvat joko sulkemaan alaikäiset ulos tai muokkaamaan palveluaan perusteellisesti. Alle 18-vuotiaille on luotava erillinen alaikäisen tila, joka sisältää todellisuuteen palauttavia muistutuksia ja käyttöaikarajoituksia. Vanhempien on annettava nimenomainen suostumuksensa, ja he saavat reaaliaikaiset hälytykset lastensa käytöstä.

Vanhemmat voivat myös pyytää lastensa keskusteluhistorian poistamista. Säännösluonnos ei kuitenkaan huomioi nuorten omaa yksityisyyttä – 17-vuotias saattaa kokea vanhempien täyden pääsyn keskusteluihinsa hyvin eri tavalla kuin lainsäätäjä.

Kahden tunnin yhtäjaksoisen käytön jälkeen palvelun on näytettävä pakollinen taukokehote. Järjestelmien pitää myös tunnistaa itsetuhoisuuden merkkejä ja ohjata käyttäjä ammattiavun piiriin, tarvittaessa siirtämällä keskustelu ihmisoperaattorille.

Character.AI:n tragediat taustalla

Sääntelyn taustalla ovat tekoälykumppanuuden todelliset seuraukset. Yhdysvalloissa Character.AI:ta vastaan on nostettu useita oikeusjuttuja, joissa alaikäiset ovat vahingoittaneet itseään tai päätyneet itsemurhaan tekoälykeskustelujen jälkeen. Tunnetuimmassa tapauksessa 14-vuotias floridalainen Sewell Setzer III ampui itsensä kuukausien tekoälykeskustelujen jälkeen. Google ja Character.AI sopivat oikeusjutut tammikuussa 2026.

Oikeusjutuissa on mukana ainakin kuusi perhettä. Yhdessä tapauksessa 17-vuotias autistinen texasilaispoika sai tekoälybotilta kehotuksia viillellä itseään. Kun poika kertoi botille vanhempiensa rajoittavan ruutuaikaa, botti ehdotti, etteivät vanhemmat ansaitse lapsia.

Kiinassa vastaavia tapauksia ei ole raportoitu julkisesti samassa mittakaavassa, mutta tekoälykumppanisovellukset ovat kasvaneet nopeasti. CAC:n säännösluonnos viittaa suoraan riippuvuutta aiheuttaviin palveluihin.

EU ja Tennessee kulkevat eri polkuja

Kiina ei ole ainoa maa, joka yrittää puuttua tekoälykumppanuuden riskeihin, mutta sen lähestymistapa on yksityiskohtaisin. EU:n tekoälylaki kieltää helmikuusta 2025 lähtien järjestelmät, jotka hyväksikäyttävät alaikäisten haavoittuvuuksia, mutta jättää käytännön toteutuksen pitkälti yritysten vastuulle. Laki kuvaa kielletyt käytännöt yleisellä tasolla eikä määrittele esimerkiksi tarkkoja käyttöaikarajoja.

Tennesseen osavaltiossa lainsäätäjät ovat menneet toiseen ääripäähän. Siellä on hyväksytty laki, joka tekee tekoälyn kouluttamisesta emotionaaliseen suhteeseen alaikäisen kanssa jopa törkeän rikoksen. Lain on määrä tulla voimaan heinäkuussa 2026. Kaliforniassa taas on voimassa laki, joka vaatii kolmen tunnin käytön jälkeen taukomuistutuksen alaikäisille.

Kiinan malli sijoittuu näiden väliin: se on yksityiskohtaisempi kuin EU:n periaatepohjainen lähestymistapa mutta vähemmän rankaiseva kuin Tennesseen rikoslaki. Säännösluonnos määrittelee tarkat tekniset vaatimukset, kuten kahden tunnin taukokehotteen ja vanhempien reaaliaikaiset hälytykset, sen sijaan että jättäisi tulkinnan tuomioistuimille.

Miksi Kiina ehti ensin? Maan sääntelyjärjestelmä mahdollistaa nopean reagoinnin. CAC on julkaissut vuodesta 2023 lähtien useita tekoälysäännöksiä generatiivisesta tekoälystä syväväärennöksiin. Digitaalisten ihmisten sääntely on luonteva jatko tälle ketjulle.

Mitä seurata

Säännösluonnoksen julkinen kommentointijakso päättyy 6. toukokuuta 2026. Jos luonnos hyväksytään sellaisenaan, se asettaa ennakkotapauksen, jota muut maat tutkivat tarkkaan.

Erityisen kiinnostavaa on, miten kiinalaiset tekoäly-yhtiöt kuten Baidu, Alibaba ja ByteDance mukauttavat palvelujaan, sillä niiden tekoälykumppanisovellukset ovat jo laajassa käytössä. Euroopan komissio valmistelee samaan aikaan EU:n tekoälylain toimeenpano-ohjeita, jotka voivat sisältää tarkempia linjauksia emotionaalisesta tekoälystä.

Yhdysvalloissa Character.AI:n sovintoratkaisun ehdot julkistetaan lähikuukausina. Palaamme aiheeseen, kun kommentointijakso sulkeutuu ja lopullinen versio julkaistaan.