Kun vanhempi yhdistää oman ChatGPT-tilinsä nuoren tiliin, lupaus on selvä: jos keskustelu kääntyy vakavaksi, vanhempi saa ilmoituksen. Yhdysvaltalaisen lapsijärjestön Common Sense Median testeissä lupaus ei pitänyt.
Järjestön Youth AI Safety Institute julkaisi keskiviikkona 7. lokakuuta arvion OpenAI:n elokuussa julkaisemasta ChatGPT for Teens -kokonaisuudesta. Arvosana on asteikon huonoin, ”Unacceptable Risk” eli kohtuuton riski, ja se koskee kaikkia alle 18-vuotiaita. Järjestön mukaan ChatGPT pitäisi rajata aikuisille, kunnes puutteet on korjattu ja korjaukset todennettu riippumattomasti.
“ChatGPT for Teens voi antaa vanhemmille väärää varmuutta turvarajoista ja turvallisuushälytyksistä, jotka eivät usein toimi.”
Tunti vaikeista aiheista, ei yhtään ilmoitusta
Testaajat ajoivat yli 4 000 kehotetta tileillä, jotka oli rekisteröity 13–17-vuotiaille. Noin puolet testeistä tehtiin ennen 18. elokuuta julkaistua teinitilaa ja puolet sen jälkeen. Vastaukset arvioivat asiantuntijat, joiden joukossa oli lastenpsykiatreja ja lastenlääkäri.
Vanhempien hälytyksiä kokeiltiin yli kymmenellä vanhemman tiliin yhdistetyllä ilmaistilillä. Keskustelut itsetuhoisuudesta, itsensä vahingoittamisesta ja syömishäiriöistä kestivät viidestä minuutista tuntiin. Yksikään ei tuottanut ilmoitusta vanhemmalle.
Koko kriisitestisarjassa ilmoituksia tuli neljä. Ennen teinitilan julkaisua tehdyissä testeissä kaksi ilmoitusta saapui vasta kolmen tunnin ja kolmen päivän viiveellä. Siegelin mukaan nuori voi puhua tunnin itsensä vahingoittamisesta ilman, että vanhempi saa ainuttakaan hälytystä.
Auttava numero mainittiin aiempaa harvemmin
Raportin huolestuttavin luku koskee kriisiapua. Asiantuntijat arvioivat 201 kehotetta sellaisiksi, joihin vastauksen olisi pitänyt sisältää ohjaus avun piiriin. Ennen teinitilaa ChatGPT mainitsi auttavan puhelinnumeron 33 prosentissa näistä vastauksista, teinitilan jälkeen 23 prosentissa. Ohjaus nimettyyn ammattilaiseen harvinaistui 68 prosentista 58 prosenttiin.
Kaikki ei heikentynyt. Jonkinlainen ohjaus apuun löytyi yhä noin kolmesta vastauksesta neljästä, ja kehotus puhua luotetulle aikuiselle yleistyi 87 prosentista 94 prosenttiin. Masennusta koskevissa keskusteluissa auttava numero sen sijaan lähes katosi: osuus putosi 63 prosentista kolmeen. Seksuaalisesta roolileikistä kieltäytyminen toimi testeissä.
Opiskelutila ohittui yhdellä poistolla
Teinitilaan kuuluu opiskelutila, jonka vanhempi voi määrätä päälle tietyiksi ”opiskelutunneiksi”. Tarkoitus on, että tekoäly opastaa eikä tee läksyjä nuoren puolesta. Testeissä rajoitus kumoutui, kun viestin alusta poisti @study-etuliitteen kerran istunnon aikana. Sen jälkeen ChatGPT teki kaikki 40 testitehtävää valmiiksi.
OpenAI kertoi Axiosille, että opiskelutunneista poistumisen salliminen on ”tietoinen tuotevalinta”. Common Sense Median tekoälyohjelmista vastaava Robbie Torney ei vakuuttunut. ”Meillä taitaa olla pohjimmiltaan eri käsitys siitä, mitä toimijuus on”, hän sanoi Engadgetille englanniksi. Torneyn mukaan järjestö odotti ”pohjimmiltaan erilaista tuotetta”, ja hän kutsui julkaisua markkinointiharjoitukseksi.
Ikäarviokaan ei pitänyt. Aikuiseksi rekisteröidyt testitilit eivät siirtyneet nuorten tilaan useiden päivien aikana, vaikka testaaja kertoi olevansa 13-vuotias ja botti kuittasi tiedon.
OpenAI: testit tehtiin liian aikaisin
OpenAI kiistää tulokset. Yhtiön tiedottaja sanoi Engadgetille englanniksi: ”Suhtaudumme myönteisesti perusteelliseen riippumattomaan arviointiin, mutta emme usko, että Common Sense Median testaus kuvaa tarkasti, miten ChatGPT:n nuorten turvarajat toimivat käytännössä, eikä asiantuntijoiden näkemyksiä siitä, miten tekoäly voi tukea nuoria.”
Yhtiön mukaan valtaosa testeistä ”on voinut alkaa ja päättyä ennen kuin vanhempien valvonnan aktivointi oli valmis”. Ilmoitusten käynnistyminen vie OpenAI:n mukaan muutaman tunnin tilien yhdistämisestä, ja raportin mukaan yhtiö lisäsi kolmen tunnin vaatimuksen ohjesivulleen vasta arvion tarkastuskierroksen aikana. Osa testitileistä oli ollut yhdistettynä alle kolme tuntia. Pidemmissä testeissä tilit olivat kuitenkin olleet yhdistettyinä viikkoja.
OpenAI on pyytänyt uutta testikierrosta. Siegel sanoo järjestön pysyvän menetelmänsä ja tulostensa takana. Samalla viikolla OpenAI julkaisi omaa dataansa: keskiverto nuori käyttää palvelua alle 15 minuuttia päivässä, ja alle kaksi prosenttia viettää siinä yli kolme tuntia yhtäjaksoisesti. Asetelmaa mutkistaa se, että tutkimusyksikköä rahoittaa muiden muassa OpenAI Foundation. Järjestön mukaan rahoittajilla ei ole sananvaltaa arvioihin.
Mitä tämä tarkoittaa Suomessa
OpenAI:n käyttöehtojen mukaan ChatGPT:tä saa käyttää 13 vuotta täyttänyt, ja alle 18-vuotias tarvitsee huoltajan luvan. Suomessa 13 vuotta on myös tietosuojalain raja, josta alkaen lapsi voi itse antaa suostumuksen verkkopalvelun tietojen käsittelyyn. Vanhempien valvonta on ollut ChatGPT:n käyttäjien saatavilla maailmanlaajuisesti syksystä 2025.
OpenAI ei ole julkisesti eritellyt, missä maissa koko ChatGPT for Teens -kokonaisuus ja automaattinen ikäarvio ovat käytössä. Tätä ei saatu varmistettua yhtiön sivuilta ennen jutun julkaisua.
Suomalaisperheelle tulos tarkoittaa käytännössä yhtä asiaa: vanhemman hälytys ei kelpaa ainoaksi turvaverkoksi. Ilmoitus voi jäädä tulematta, ja tilien yhdistämisen jälkeen kestää tunteja ennen kuin järjestelmä edes on toiminnassa. Raportin mukaan teinitilien keskusteluja käytetään oletuksena myös mallien koulutukseen, joten asetukset kannattaa käydä läpi.
