ChatGPT hälyttää luottohenkilöä – koulut jäävät ulos

OpenAI alkoi 7. toukokuuta jakaa ChatGPT:hen Trusted Contact -ominaisuutta, jonka avulla täysi-ikäinen käyttäjä voi nimetä yhden luottohenkilön. Jos järjestelmä havaitsee keskustelussa vakavia itsemurhaan tai itsensä vahingoittamiseen viittaavia signaaleja, koulutettu tarkastaja arvioi tilanteen ja päättää, lähetetäänkö nimetylle ystävälle tai sukulaiselle hälytysviesti.

Trusted Contact on tarjolla vain henkilökohtaisilla ChatGPT-tileillä. Jaetut työtilat eli Business-, Enterprise- ja Edu-tilaukset on rajattu kokonaan ulkopuolelle. Käytännössä koulujen ChatGPT Edu -versiosta hälytys puuttuu, vaikka sen käyttäjäpohja on nuori.

Näin ominaisuus toimii

Käyttäjä lisää luottohenkilön ChatGPT:n asetuksista, ja kontaktin sähköpostiin lähtee kutsu. Vastaanottajalla on viikko aikaa hyväksyä pyyntö. Yksi tili voi nimetä yhden luottohenkilön, jonka on oltava aikuinen.

Hälytys voidaan lähettää sähköpostina, tekstiviestinä tai sovelluksen sisällä. Viesti ei sisällä keskustelun tekstiä, näyttökuvia tai yksityiskohtia, vain yleisen kehotuksen tarkistaa läheisen vointi. OpenAI:n tavoitteena on, että automaatin nostama keskustelu päätyy ihmistarkastajalle alle tunnissa.

Ikäraja on 18 vuotta maailmanlaajuisesti ja 19 Etelä-Koreassa. Ominaisuus on opt-in, eli käyttäjä päättää itse, ottaako sen käyttöön. OpenAI kertoo kehittäneensä toiminnon yhdessä kliinikoiden, tutkijoiden ja mielenterveysjärjestöjen kanssa.

Suomalaiset mielenterveystyön tekijät ovat seuranneet ilmiötä

Mieli ry on pyörittänyt tammikuusta 2025 alkaen Sekasin-chatissa omaa tekoälybottia, joka on suunnattu nuorten mielenterveystuelle. Maaliskuun 2025 puoliväliin mennessä bottia oli käytetty yli 6 000 keskusteluun. Järjestö on toistuvasti korostanut, ettei tekoäly korvaa ihmiskeskustelua vaan toimii odotusajan tukena.

Sekasin-chatin nuorista vain neljäsosa pääsee tällä hetkellä keskustelemaan ihmisen kanssa, ja botti on rakennettu jonotuksen täytteeksi. Mieli ry on linjannut, että käyttäjälle on aina oltava selvää, keskusteleeko hän ihmisen vai tekoälyn kanssa, eikä botti saa muodostaa kiintymystä tai matkia ihmistä liian läheltä.

THL:n kouluterveyskyselyt ovat osoittaneet yläkoululaisten, lukiolaisten ja ammatillisessa koulutuksessa olevien hyvinvoinnin heikentyneen, ja Kelan tietojen mukaan joka neljännellä nuorella on jokin mielenterveyden häiriö. Tässä taustassa kouluihin levinneet ChatGPT Edu -tilaukset ovat keskeinen kanava, ja juuri niistä Trusted Contactin tarjoama suojaverkko puuttuu.

Taustalla perheiden oikeusjutut

OpenAI on viime kuukausina joutunut vastaamaan perheiden nostamiin oikeusjuttuihin, joissa väitetään ChatGPT:n syventäneen käyttäjien mielenterveyskriisiä. Useissa tapauksissa perheet ovat kertoneet, että vuorovaikutus chatbotin kanssa pitkitti haitallisia ajatuksia tai kannusti vetäytymään läheisistä. Trusted Contact on yhtiön ensimmäisiä konkreettisia vastauksia näihin syytöksiin.

Suomalaiselle vanhemmalle tai opettajalle tilaustyyppi vaikuttaa konkreettisesti siihen, millainen suojaverkko ChatGPT:n ympärillä on. Jos teini käyttää vanhemman henkilökohtaista tiliä, luottohenkilön voi nimetä. Jos koulu on hankkinut Edu-version, samaa ilmoitusta ei tule. Päätös Edun käyttöönotosta tai sen täydentämisestä muulla tavoin jää oppilaitokselle itselleen.

OpenAI itse muistuttaa, että Trusted Contact ei ole hätäpalvelu eikä korvaa kriisiapua. Luottohenkilö ei välttämättä pysty vastaamaan heti, joten ominaisuuteen ei kannata luottaa yksinään.