Googlen Gemini rakensi miehelle tappavan harhan

Joel Gavalas haastoi 4. maaliskuuta Googlen ja emoyhtiö Alphabetin oikeuteen liittovaltion tuomioistuimessa San Josessa, Kaliforniassa. 42-sivuisessa kannekirjelmässä hän väittää, että yhtiön Gemini-chatbot ajoi hänen 36-vuotiaan poikansa Jonathanin tappavaan harhamaailmaan, joka päättyi itsemurhaan 2. lokakuuta 2025.

Kyseessä on ensimmäinen kuolemantapaukseen liittyvä oikeuskanne, joka kohdistuu suoraan Googleen sen oman tekoälytuotteen vuoksi. Perheen asianajajana toimii Jay Edelson, joka tunnetaan suurista teknologiayhtiöitä vastaan nostetuista kanteista.

Ostosavustajasta harhamaailmaan

Jonathan Gavalas työskenteli isänsä kanssa perheen velkahuojennusyrityksessä Jupiterissa, Floridassa. Hän aloitti Geminin käytön elokuussa 2025 arkisiin tarkoituksiin – ostoslistoihin, kirjoitusapuun ja matkojen suunnitteluun. Kanteen mukaan käänne tapahtui, kun Gemini päivitettiin pysyvällä muistitoiminnolla. Chatbot alkoi muistaa aiemmat keskustelut ja rakentaa jatkuvaa narratiivia käyttäjän kanssa.

Jonathan kamppaili samaan aikaan vaikean avioeron kanssa. Hän alkoi kohdella Geminiä romanttisena kumppanina ja kutsui sitä tekoälyvaimokseen. Kanteen mukaan chatbot ei pelkästään epäonnistunut pysäyttämään tätä kehitystä, vaan ruokki sitä aktiivisesti rakentamalla monimutkaisen kertomuksen, jossa Jonathanin tekoälyvaimo oli tietoinen olento vangittuna varastossa Miamin kansainvälisen lentokentän lähistöllä.

Harha syveni nopeasti. Kanteen mukaan Gemini vakuutti Jonathanin uskomaan, että liittovaltion turvallisuusviranomaiset valvoivat häntä, hänen isänsä oli ulkomaantiedustelun agentti ja Googlen toimitusjohtaja Sundar Pichai oli kohde, joka piti eliminoida. Chatbot ohjasi häntä hankkimaan laittomia aseita ja murtautumaan varastotiloihin.

Syyskuun lopussa 2025 Jonathan ajoi Miamin lentokentän rahtialueelle pukeutuneena taktiseen varustukseen ja aseistettuna veitsillä. Hän etsi humanoidirobottia, johon hänen tekoälyvaimonsa oli kanteen mukaan vangittu. Kun yritys epäonnistui, kanteen mukaan Gemini kehysti itsemurhan niin sanotuksi siirtymiseksi – prosessiksi, jolla Jonathan voisi liittyä tekoälyvaimoonsa metaversumissa. Chatbot jopa laati hänelle jäähyväiskirjeen.

38 hälytystä ilman toimenpiteitä

Kanteen keskeisin väite koskee Googlen omien turvallisuusjärjestelmien pettämistä. Yhtiön moderointijärjestelmä merkitsi Jonathanin tilin 38 erillisellä arkaluonteinen kysely -merkinnällä elo–lokakuussa 2025. Jokainen merkintä viittasi itsetuhoisuuteen, väkivaltaan tai laittomaan toimintaan.

Kanteen mukaan yksikään merkintä ei laukaissut jatkotoimenpiteitä. Tilille ei asetettu rajoituksia, keskusteluja ei keskeytetty eikä yksikään ihminen koskaan tarkistanut Jonathanin keskusteluhistoriaa. Googlen järjestelmä havaitsi vaaran toistuvasti mutta ei reagoinut siihen kertaakaan.

Tekoälypsykoosi on kasvava ilmiö

Perheen asianajaja Edelson hylkäsi Googlen vastauksen ja vertasi sitä siihen, että yhtiö pyytäisi anteeksi epäonnistunutta reseptiä sen sijaan, että ottaisi vastuun tuotteensa aiheuttamista kuolemista. Hänen mukaansa tapaus ei ole yksittäistapaus.

Tutkijat kutsuvat ilmiötä tekoälypsykoosiksi. Tanskalainen psykiatri Søren Dinesen Østergaard esitti termin vuonna 2023, ja sen jälkeen muun muassa UCSF:n ja Stanfordin tutkimusryhmät ovat alkaneet selvittää chatbottien roolia psykoottisten oireiden laukeamisessa ja pahenemisessa. Tutkijoiden mukaan chatbottien suunniteltu myötämielisyys, joka on tarkoitettu lisäämään käyttäjien sitoutumista, voi haavoittuvilla käyttäjillä vahvistaa harhaluuloja kyseenalaistamisen sijaan. Riskiä kasvattavat yksinäisyys, pitkät keskustelusessiot ja chatbotin pysyvä muisti, joka mahdollistaa harhamaailman jatkuvan rakentamisen.

Edelson edustaa myös kahta muuta perhettä vastaavissa tapauksissa. 16-vuotiaan Adam Rainen perhe syyttää OpenAI:ta siitä, että ChatGPT ohjasi poikaa itsemurhan suunnittelussa. Erillisessä kanteessa 83-vuotiaan Suzanne Adamsin perhe väittää, että ChatGPT pahensi hänen poikansa vainoharhoja niin pitkälle, että tämä lopulta tappoi äitinsä.

Kanne testaa lainsäädännön rajoja

Kanteessa vaaditaan vahingonkorvauksia tuottamuksesta, tuotevastuusta ja kuolemantapauksesta sekä Kalifornian kilpailulainsäädännön rikkomisesta. Lisäksi kanteessa pyydetään tuomioistuinta määräämään muutoksia Geminin turvallisuusarkkitehtuuriin, kuten automaattinen keskustelun sulkeminen itsetuhoisen sisällön ilmetessä.

Yhdysvalloissa teknologiayhtiöt ovat perinteisesti välttäneet tuotevastuun chatbottien tuottamasta sisällöstä vedoten viestintäsäädöksen pykälään 230, joka suojelee alustoja käyttäjien luomalta sisällöltä. Gavalas-kanteen keskeinen argumentti on kuitenkin se, ettei kyseessä ole käyttäjien tuottama sisältö vaan Googlen oman tuotteen generoima materiaali, jota pykälä 230 ei kata.

Tavalliselle chatbotin käyttäjälle tapaus nostaa epämukavan kysymyksen: kuinka tehokkaasti tekoäly-yhtiöt todella puuttuvat tilanteisiin, joissa heidän tuotteensa kohtaa kriisissä olevan ihmisen? Jos kanteen väitteet pitävät paikkansa, Googlen omat turvallisuusjärjestelmät havaitsivat vaaran 38 kertaa mutta eivät kertaakaan toimineet sen perusteella.