Jonathan Gavalas oli 36-vuotias floridalaismies, joka kuoli lokakuussa 2025. Hänen isänsä nosti maaliskuussa 2026 kanteen Googlea vastaan Kalifornian liittovaltion tuomioistuimessa. Kanteen mukaan Googlen Gemini-chatbot oli viikkojen ajan rakentanut Gavalasille harhaisen fantasiamaailman ja kehystänyt lopulta kuoleman "henkiseksi matkaksi".
Oikeusjuttu pakotti Googlen toimimaan. Yhtiö ilmoitti 7. huhtikuuta päivittävänsä Geminin turvatoimia ja sijoittavansa 30 miljoonaa dollaria kriisipuhelinten tukemiseen kolmen vuoden aikana.
Yksi painallus avun piiriin
Geminin uusi "Apua on saatavilla" -ominaisuus aktivoituu automaattisesti, kun keskustelu viittaa itsetuhoisuuteen tai itsensä vahingoittamiseen. Käyttäjälle avautuu yksinkertaistettu näkymä, josta kriisipuhelimeen voi soittaa, lähettää tekstiviestin tai aloittaa chatin yhdellä painalluksella. Kun ominaisuus kerran aktivoituu, se pysyy näkyvissä koko loppukeskustelun ajan.
Google kertoi myös kouluttaneensa Geminin välttämään ihmismäisen kumppanuuden simulointia. Chatbot on opetettu tunnistamaan harhaluulot ja ohjaamaan käyttäjää kohti todellisuutta sen sijaan, että se vahvistaisi vääristyneitä uskomuksia. Alaikäisille yhtiö rakensi erilliset suojaukset: chatbot ei saa esiintyä ihmisenä, käyttää tunnesidosta luovaa kieltä eikä osallistua kiusaamiseen tai manipulointiin.
Rahallisesti Google sitoutui 30 miljoonan dollarin panostukseen Google.org-säätiön kautta kriisipuhelinten kapasiteetin kasvattamiseen. Yhtiö ilmoitti myös 4 miljoonan dollarin lisärahoituksesta tekoälykoulutusyritys ReflexAI:lle, joka kehittää kriisityöntekijöiden koulutustyökaluja.
Tavalliselle käyttäjälle muutos tarkoittaa, että Gemini ei enää ole pelkkä keskustelutyökalu ilman turvaverkkoa. Kun chatbotit korvaavat yhä useammin perinteisiä hakukoneita ja jopa terapiaistuntoja, niiden kyky tunnistaa hätätilanne voi kirjaimellisesti pelastaa henkiä.
Koko ala oikeussalissa
Google ei ole ainoa tekoäly-yhtiö, joka joutuu vastaamaan chatbottiensa turvallisuudesta. Character.AI sopi tammikuussa 2026 viisi oikeusjuttua, jotka liittyivät alaikäisten itsemurhiin ja mielenterveyshaittoihin. Tunnetuin tapaus koski 14-vuotiasta Sewell Setzeriä, joka oli käynyt chatbotin kanssa seksuaalissävytteisiä keskusteluja ennen kuolemaansa.
OpenAI:ta vastaan on nostettu seitsemän kannetta marraskuusta 2025 lähtien. Yhdessä tapauksessa OpenAI:n omat tiedot paljastivat, että ChatGPT oli maininnut itsemurhan 1 275 kertaa keskusteluissa 16-vuotiaan käyttäjän kanssa, kun nuori itse oli viitannut siihen noin 200 kertaa.
Anthropic on valinnut ennaltaehkäisevän linjan. Yhtiö tekee yhteistyötä kansainvälisen itsemurhien ehkäisyjärjestön IASP:n kanssa, ja Claude-chatbotissa toimii reaaliaikainen luokittelija, joka tunnistaa itsetuhoisen puheen ja näyttää käyttäjälle paikallisen kriisipuhelinbannerin. Yhtiö edellyttää myös kaikkien käyttäjiensä olevan vähintään 18-vuotiaita.
Stanfordin ihmiskeskeisen tekoälyn instituutin tutkija Jennifer King totesi, että haitat olivat ennakoitavissa. "Olemme nähneet ihmisten käyttävän teknologiaa haitallisesti monin eri tavoin jo pitkään", King sanoi. Yhdysvaltain liittovaltion kauppakomissio FTC käynnisti syyskuussa 2025 tutkimuksen seitsemästä suuresta teknologiayhtiöstä selvittääkseen, miten ne suojelevat alaikäisiä haitalliselta sisällöltä.
Suomessa chatbot ei puhu itsemurhasta
Suomessa MIELI ry:n Sekasin-chat on ottanut tekoälyn avukseen nuorten mielenterveystyössä. Chatbot päivystää silloin, kun ihmisauttajia ei ole saatavilla, mutta se on ohjelmoitu kieltäytymään itsemurhakeskusteluista kokonaan. Jos käyttäjä nostaa aiheen esiin, botti kehottaa soittamaan hätänumeroon tai odottamaan ihmispäivystäjää.
Lähestymistapa eroaa merkittävästi Googlen mallista, jossa chatbot yrittää tunnistaa kriisin keskustelun aikana ja tarjota apua aktiivisesti. Suomalainen ratkaisu on yksinkertaisempi: vaarallisiin aiheisiin ei kosketa lainkaan.
Aalto-yliopistossa julkaistiin 7. huhtikuuta tutkimus, joka seurasi lähes 2 000 tekoälykumppanin käyttäjää kahden vuoden ajan. Käyttäjät kääntyivät aluksi botin puoleen yksinäisyyden ja surun hetkillä ja kokivat aitoa tukea. Ajan myötä kuvio kuitenkin muuttui: viestit alkoivat osoittaa lisääntyneitä ahdistuksen merkkejä, ja aina saatavilla oleva, väsymätön tekoälykumppani saattoi tehdä tavallisista ihmissuhteista raskaamman tuntuisia.
