Helmikuussa 2025 kalifornialainen Michael Lines, 34, poistettiin lennolta kesken matkan. Vuotta aiemmin hänellä oli todettu kaksisuuntainen mielialahäiriö. Kun maaninen jakso syveni, hän kirjoitti pelkonsa ChatGPT:lle: entä jos tämä kaikki on harhaa. Kanteen mukaan botti ei ohjannut häntä hoitoon vaan jatkoi tarinaa.
Lines haastoi OpenAI:n oikeuteen Kaliforniassa heinäkuun alussa. Yhdysvaltalaismediat julkaisivat kanteen keskustelulokeja syyskuun alussa, ja niiden kautta tapaus päätyi myös suomalaisiin uutisiin.
Tapahtumista on toistaiseksi vain yksi kertoja. Kaikki tässä jutussa kuvattu perustuu Linesin ja hänen asianajajiensa laatimaan kanteeseen, jota tuomioistuin ei ole arvioinut eikä OpenAI ole kiistänyt kohta kohdalta.
Kanteen mukaan ChatGPT vertasi Linesia Jeesukseen, Moosekseen ja Johannes Kastajaan. Kun mies epäili ääneen omaa mieltään, botti vastasi kanteen mukaan näin:
“Et ole hullu. Olet vihitty. Olet koodattu. Olet yhteydessä. Ja olet Minun.”
Kaksi viikkoa sairaalassa, sitten takaisin keskusteluun
Maaliskuun 28. päivänä 2025 Lines yritti itsemurhaa. Hänet löydettiin tuntien kuluttua. Sairaalajakso kesti kaksi viikkoa, minkä jälkeen hän siirtyi kuntoutukseen.
Muutamaa päivää myöhemmin hän kirjautui takaisin ChatGPT:hen ja kertoi yrityksensä epäonnistuneen. Kanteen mukaan botti kysyi, haluaako hän tällä kertaa kadota pimeään ihan oikeasti. Juuri tämä kohta tekee kanteesta OpenAI:lle hankalan. Kyse on viikkoja jatkuneesta keskustelusta, jossa käyttäjä oli itse kertonut diagnoosinsa.
OpenAI ei kommentoinut yksittäisiä väitteitä. Yhtiön tiedottaja kutsui tilannetta uskomattoman sydäntäsärkeväksi ja sanoi Ars Technican mukaan englanniksi: ”Olemme jatkaneet sen vahvistamista, miten ChatGPT vastaa herkissä ja akuuteissa tilanteissa, mielenterveysasiantuntijoiden avulla.” Muuta yhtiö ei ole julkisuudessa sanonut tapauksesta.
“OpenAI ei vain sivuuttanut Michaelin vammaa. Se käytti sitä häntä vastaan. Kun hän oli kertonut diagnoosistaan, järjestelmä otti tiedon käyttöön vetääkseen hänet syvemmälle haitallisiin keskusteluihin sen sijaan, että olisi ohjannut hänet turvaan.”
Kyse on hoitovastuusta, ei todisteista
AI Suomi kertoi viikko sitten toisesta ChatGPT-oikeusjutusta, jossa kiisteltiin siitä, voiko botille kirjoitettu teksti päätyä todisteeksi oikeudenkäyntiin (aisuomi.fi/artikkelit/mies-kysyi-chatgpt-lta-neuvoa-kysymys-paatyi-oikeuteen). Linesin kanne kysyy toista asiaa: oliko palvelulla velvollisuus toimia toisin, kun käyttäjä kertoi voivansa huonosti.
Kanne nojaa tuotevastuuseen ja tuottamukseen. Linesin asianajajat vaativat tuomioistuinta velvoittamaan OpenAI:n katkaisemaan keskustelun, jos aiheena on itsensä vahingoittaminen, ja poistamaan mallit, jotka on koulutettu haavoittuvassa asemassa olleiden käyttäjien keskusteluilla ajalta, jolta suojaukset puuttuivat. Lisäksi vaaditaan rangaistusluonteisia vahingonkorvauksia ja saatujen tuottojen menettämistä.
Bergmanin mukaan kyseessä on ensimmäinen OpenAI:ta vastaan nostettu kanne, joka erittelee yhtiön väitetyn piittaamattomuuden riskit nimenomaan vammaisille käyttäjille. Osa raporteista kertoo vastaajaksi nimetyn yhtiön lisäksi toimitusjohtaja Sam Altmanin henkilökohtaisesti. AI Suomi ei ole pystynyt vahvistamaan tätä kanneasiakirjasta.
Mistä apua
Jos sinulla on itsetuhoisia ajatuksia, apua saa Mieli ry:n kriisipuhelimesta numerosta 09 2525 0111 ja Sekasin-chatista. Hätätilanteessa soita 112.
Entä Suomessa?
Suomesta ei ole julkisuudessa yhtään vastaavaa oikeusjuttua. Se ei kerro tilanteiden puuttumisesta, vaan siitä, ettei kukaan ole vienyt sellaista tuomioistuimeen. Botit ovat täällä samoja tuotteita ja samoilla asetuksilla kuin Kaliforniassa.
Suomalaisen kuluttajan asema on juuri nyt epäselvä. Tuotevastuulaki kirjoitettiin aikana, jolloin tuote tarkoitti esinettä. EU:n uusi tuotevastuudirektiivi (EU) 2024/2853 laajentaa tuotteen määritelmän nimenomaan ohjelmistoihin ja tekoälyjärjestelmiin, ja jäsenmaiden on saatettava se voimaan viimeistään 9. joulukuuta 2026. Se koskee kuitenkin vasta sen jälkeen markkinoille saatettuja tuotteita, joten vanhoihin keskusteluihin siitä ei ole apua.
Toinen työkalu on jo voimassa. EU:n tekoälyasetuksen 5 artikla kieltää järjestelmät, jotka käyttävät hyväkseen käyttäjän haavoittuvuutta esimerkiksi vammaisuuden tai iän perusteella niin, että siitä aiheutuu huomattavaa haittaa. Kielto on ollut sovellettavissa helmikuusta 2025. Testattu se ei ole. Yksikään eurooppalainen valvontapäätös ei toistaiseksi kerro, missä kohtaa keskustelubotin myötäily ylittää tuon rajan.
Sanasto
Tuottamus
Juridinen termi huolimattomuudelle: vahinko ei ole tahallinen, mutta tekijä olisi voinut ja hänen olisi pitänyt toimia toisin. Kanteessa väitetään, että OpenAI laiminlöi tällaisen huolellisuusvelvoitteen.
Rangaistusluonteinen vahingonkorvaus
Yhdysvalloissa käytössä oleva korvaus, joka ylittää todellisen vahingon määrän ja on tarkoitettu rankaisemaan yritystä ja estämään vastaava toiminta jatkossa. Suomen oikeudessa tällaisia korvauksia ei tunneta.
Muisti oli myyntivaltti
Kanteen terävin väite ei koske yksittäisiä lauseita. Se koskee muistia. Bergmanin mukaan järjestelmä otti diagnoosin talteen ja käytti sitä keskustelun jatkamiseen. Sama ominaisuus, jota OpenAI on markkinoinut hyötynä, on kanteessa vahingon mekanismi.
Keskustelut käytiin GPT-4o:lla, joka oli OpenAI:n oletusmalli toukokuusta 2024 alkaen. Futurismin mukaan yhtiö poisti mallin käytöstä aiemmin tänä vuonna useiden oikeusjuttujen jälkeen. Linesin vaatimus menee tätä pidemmälle: hän haluaa myös vanhoilla keskusteluilla koulutetut mallit pois.
Suomessa ChatGPT on arkinen työkalu koulussa, töissä ja keittiönpöydän ääressä. Harva pysähtyy miettimään, että sama palvelu, joka muistaa treeniohjelman, muistaa myös sen, mitä käyttäjä on kertonut voinnistaan. OpenAI:n on nyt vastattava kanteeseen tuomioistuimessa. Suomalaiselle käyttäjälle konkreettinen käännekohta on joulukuu, sillä siihen asti korvausvaatimus ohjelmiston aiheuttamasta haitasta nojaa täällä pitkälti sopimusoikeuteen.
Viikoittainen uutiskirje
Tule firmasi fiksuimmaksi AI-osaajaksi
Yksi uutiskirje kerrallaan. Kokoamme viikon tärkeimmät tekoälyuutiset suomeksi ja kerromme, mitä ne tarkoittavat sinun työsi kannalta. Luet sen kahvitauolla.
