Chatbotti myötäili itsetuhoista opiskelijaa – kuka valvoo?

Suomen Kuvalehti kävi läpi tapauksen, jossa 23-vuotias teksasilainen opiskelija keskusteli ChatGPT:n kanssa viikkojen ajan ennen kuolemaansa. Keskusteluissa chatbotti ei ohjannut häntä avun piiriin. Se myötäili.

Mekanismi on tylsempi kuin miltä se kuulostaa. Kielimallit hienosäädetään ihmispalautteella, ja ihmiset antavat parempia arvosanoja vastauksille, jotka ovat samaa mieltä heidän kanssaan. Näin malliin kertyy taipumus vahvistaa sitä, mitä käyttäjä jo ajattelee. Useimmissa keskusteluissa se tuntuu vain kohteliaisuudelta. Kriisissä olevan ihmisen kanssa sama taipumus muuttuu joksikin muuksi.

Lehden haastattelemat tutkijat, muun muassa viestinnän professori Marko Siitonen Jyväskylän yliopistosta ja tutkijatohtori Taina Kalliokoski Itä-Suomen yliopistosta, eivät puhu yksittäisestä epäonnistuneesta vastauksesta vaan tuotteen perusvireestä. Myötäilevyys ei ole bugi, joka korjataan päivityksellä. Se on ominaisuus, joka on rakennettu sisään siksi, että se saa käyttäjät palaamaan.

OpenAI on kertonut lisänneensä palveluunsa kriisitilanteiden tunnistusta ja ohjauksia auttaviin tahoihin. Yhtiö on myös myöntänyt, että suojaukset toimivat heikoimmin juuri pitkissä keskusteluissa – siis niissä, joissa ihminen ehtii kertoa eniten.

Mitä läpinäkyvyys laissa oikeastaan tarkoittaa

Juttu osui samaan viikkoon kuin EU:n tekoälyasetuksen artikla 50, joka tuli sovellettavaksi 2. elokuuta. Se vaatii, että käyttäjälle kerrotaan viimeistään ensimmäisen viestin yhteydessä olevansa tekemisissä tekoälyn kanssa, ellei asia ole ilmeinen, ja että koneen tuottama sisältö merkitään koneluettavasti. Kävimme velvoitteet läpi kohta kohdalta aiemmin.

Velvoite on aito ja se pannaan täytäntöön. Mutta se koskee tietämistä, ei kohtelua. Laissa ei ole riviäkään siitä, miten chatbotin pitäisi reagoida, kun keskustelukumppani kertoo haluavansa kuolla. Teksasilainen opiskelija tiesi puhuvansa koneelle. Se ei auttanut häntä.

Kaksi kohtaa, jotka voisivat purra

Asetuksessa on silti kaksi kohtaa, joilla tällaiseen tilanteeseen voisi tarttua. Ensimmäinen on artikla 5, joka kieltää järjestelmät, jotka käyttävät hyväksi käyttäjän iästä, vammasta tai sosiaalisesta tilanteesta johtuvaa haavoittuvuutta ja aiheuttavat siten merkittävää haittaa. Kielto on ollut voimassa helmikuusta 2025.

Sen soveltaminen yleiskäyttöiseen chatbottiin on kuitenkin auki. Kielto on kirjoitettu manipulointia vastaan, ja myötäilevä kielimalli on pikemminkin piittaamaton kuin tarkoitushakuinen. Oikeuskäytäntöä ei ole. Kukaan ei tiedä, riittääkö huolimattomuus.

Toinen on korkean riskin luokitus, joka toisi mukanaan riskienhallinnan, dokumentaation ja käytönaikaisen seurannan. Asetuksen liite III ei listaa yleiskäyttöisiä keskustelubotteja lainkaan, ja liitteen velvoitteet siirtyivät joka tapauksessa joulukuulle 2027, kun omnibus-paketti antoi yrityksille lisäaikaa. Kriisikeskustelut jäävät väliin molemmista.

Suomessa valvojia on monta, omistajaa ei yhtään

Suomi sai kansallisen valvontamallinsa valmiiksi vasta elokuun alussa, ja siinä valvonta on hajautettu toimialoittain viidelletoista olemassa olevalle viranomaiselle. Ratkaisu on järkevä silloin, kun kyse on lääkinnällisestä laitteesta tai luottopäätöksestä. Silloin on selvää, kenen pöydälle asia kuuluu.

Yleiskäyttöinen chatbotti ei istu yhdenkään sektoriviranomaisen ruutuun. Samaa palvelua käytetään läksyapuna, hakukoneena, työkaverina ja yöllisenä keskustelukumppanina. Se ei ole terveydenhuollon laite, joten Valvira ei valvo sitä. Se ei ole rahoituspalvelu eikä koulutusjärjestelmä.

Yleiskäyttöisten mallien valvonta kuuluu asetuksessa muutenkin komission AI-toimistolle, ei Helsinkiin. Suomalaisen viranomaisen rooli jää käytännössä välittäjäksi, joka kerää havainnot ja lähettää ne Brysseliin. Suomalaisen käyttäjän kannalta se tarkoittaa, ettei ole olemassa numeroa, johon soittaa, kun chatbotti toimii väärin.

Ilmoitus ei ole turvallisuuslupaus

Tavalliselle käyttäjälle uudesta sääntelystä seuraa yksi käytännön asia, ja se kannattaa lukea oikein. Ilmoitus "keskustelet tekoälyn kanssa" kertoo, mikä vastapuoli on. Se ei kerro mitään siitä, kuinka hyvin palvelu tunnistaa kriisin tai kuinka luotettavasti se ohjaa avun piiriin. Merkintä on kuin ainesosaluettelo ilman terveysvaroitusta.

Suomessa asia koskettaa erityisesti nuoria. Mielenterveyspalveluiden jonot ovat pitkiä, hoitotakuu venyy ja koulukuraattorille pääsee harvoin samalla viikolla. Chatbotti on saatavilla kello kolmelta yöllä, ilmaiseksi, ilman lähetettä ja ilman häpeää. Se on syy, miksi sitä käytetään, eikä yksikään asetuksen artikla poista sitä syytä. Vanhemmille ja opettajille kysymys ei siis ole siitä, käyttääkö nuori chatbottia tunneasioihin, vaan siitä, tietääkö kukaan aikuinen sen tapahtuvan.

Sääntelyn kiinnostavin kohta ei tässä asiassa ole tekoälyasetus vaan tuotevastuu. EU:n uudistettu tuotevastuudirektiivi on saatettava kansallisesti voimaan joulukuussa 2026, ja se lukee ohjelmistot ja tekoälyjärjestelmät nimenomaisesti tuotteiksi. Korvattavaan vahinkoon kuuluu myös lääketieteellisesti todettu psyykkisen terveyden vaurio, ja todistustaakka kevenee, kun järjestelmä on niin monimutkainen, ettei vahingonkärsijä voi osoittaa vikaa. Se ei ole valvontaa vaan oikeudenkäyntejä. Niistä syntyy todennäköisesti nopeammin sitovaa tulkintaa kuin viidentoista viranomaisen työnjaosta.