Mies kysyi ChatGPT:ltä neuvoa – kysymys päätyi oikeuteen

Michiganilainen rengasmyyjä oli riidoissa entisen työnantajansa kanssa. Jossain vaiheessa hän avasi ChatGPT:n ja kysyi jotain hyvin käytännöllistä: saako poistettuja Yahoo-sähköposteja palautettua, jos ne haastetaan esiin. Kysymys tuntui varmaan yksityiseltä. Se ei ollut.

Työnantajan asianajajat saivat keskustelun käsiinsä ja esittivät sen oikeudessa. Heidän tulkintansa oli suoraviivainen: mies oli selvitellyt, jääkö poistetuista viesteistä jälkiä, eli hän oli yrittänyt peitellä jotain. Kysymys sähköposteista muuttui todisteeksi aikomuksesta.

Tapaus on yksi niistä, jotka Washington Post löysi käydessään läpi yhdysvaltalaisten tuomioistuinten julkisia asiakirjoja. Lehden mukaan tekoälybottien kanssa käytyjä keskusteluja on käytetty todistusaineistona ainakin 12 käsittelyssä kahden viime vuoden aikana. Lehden haastattelemat asiantuntijat pitävät lukua alakanttiin arvioituna, koska valtaosa jutuista sovitaan tai käsitellään ilman julkiseksi tulevaa aineistoa.

Teini kysyi botilta, mitä isä oikein tarkoitti

Postin jutun päähenkilö on poika, joka esiintyy oikeuden papereissa nimimerkillä R.K.C. Hän oli haastanut Metan, Snapchatin, TikTokin ja YouTuben oikeuteen väittäen, että sovellukset olivat aiheuttaneet hänelle vuosia kestäneen riippuvuuden ja mielenterveysongelmia. Lokakuussa 2024, kesken oikeusprosessin, hän kirjoitti ChatGPT:lle isästään.

Viesti kuului kirjoitusvirheineen näin: ”My dad Said that I'm will get a settlement worth of 1million dollar. He said that If that doesn't make me happy what does. What does he mean.” Suomeksi: isä sanoi, että sovinnosta on tulossa miljoona dollaria, ja jos se ei tee poikaa onnelliseksi, niin mikä sitten. Mitä isä tarkoittaa?

Vastapuolen asianajajat saivat pojan ChatGPT-historian osaksi todistusaineistoa. Juttu sovittiin Snapchatin ja TikTokin kanssa heinäkuun loppuun mennessä, ja Metaa koskeva vaatimus vedettiin pois.

Rikosjutuissa lokit ovat jo vakiokalustoa

Floridassa Darren Zhou pidätettiin toukokuussa entisen tyttöystävänsä vainoamisesta. Hän oli kuukausien ajan kuvaillut ChatGPT:lle, miten vahingoittaisi ja tappaisi tämän. OpenAI ilmoitti keskusteluista FBI:lle, ja Zhou tunnusti syyllisyytensä sekä sai kahdeksan vuoden valvonta-ajan. Missourin osavaltionyliopistossa Ryan Schaeferia epäiltiin 17 auton vahingoittamisesta parkkihallissa, ja poliisi löysi hänen puhelimestaan ChatGPT-viestit, jotka oli lähetetty pian epäillyn teon jälkeen.

Suoraan salassapitokysymykseen mentiin New Yorkissa. Rahoitusalan johtaja Bradley Heppner yritti pitää Claude-keskustelunsa puolustusstrategiastaan poissa aineistosta. Liittovaltion tuomari katsoi, ettei niitä suojaa asianajajasalaisuus. Heppner tuomittiin toukokuussa arvopaperi- ja verkkopetoksesta.

OpenAI kertoo skannaavansa keskusteluja vaarallisen käytöksen merkkien varalta ja nostavansa epäilyttävät tapaukset ihmisen arvioitavaksi. Jos arvioija toteaa keskustelussa ”välitöntä ja uskottavaa muille aiheutuvan vahingon riskiä”, lokit voidaan toimittaa poliisille. Yhtiön toimitusjohtaja Sam Altman on itse vaatinut chat-keskusteluille lainsäädännöllistä suojaa, jollaista niillä ei tällä hetkellä ole.

Entä Suomessa?

Vastaavaa suomalaista tapausta ei ole julkisuudessa raportoitu. Oikeudellinen lähtökohta on silti samansuuntainen. Oikeudenkäymiskaaren 17 luku luettelee ne suhteet, joissa todistajana saa tai pitää vaieta: asianajaja ja oikeudenkäyntiavustaja, terveydenhuollon ammattihenkilö, pappi, lähiomainen. Luettelo on tarkoitettu tyhjentäväksi, eikä siinä ole kohtaa keskustelurobotille tai sen tarjoajalle.

Käytännössä kysymys jakautuu kahtia. Ensimmäinen puoli on se, mitä käyttäjän omalta laitteelta löytyy: puhelimeen tallentunut chat-historia on esitutkinnassa samanlaista aineistoa kuin viestit tai selainhistoria. Toinen puoli on palveluntarjoajan palvelimilla. Kun palvelin on Yhdysvalloissa, tie kulkee kansainvälisen oikeusavun kautta, mikä on hitaampaa ja harvinaisempaa kuin puhelimen takavarikko.

Tietosuoja-asetus ei tähän auta. Se antaa oikeuden nähdä omat tietonsa ja pyytää niiden poistamista, mutta rekisterinpitäjä saa käsitellä ja luovuttaa niitä, kun laki tai viranomaisen määräys sitä edellyttää. Suomalaista oikeuskäytäntöä tekoälykeskustelujen todistusarvosta ei tiettävästi vielä ole, joten tämä on lain sanamuodon lukemista, ei ennuste siitä, miten tuomioistuin ratkaisisi asian.

Miksi tämä koskee myös sinua

Harva ChatGPT:n käyttäjä päätyy oikeussaliin. Riita-asiaan joutuminen ei silti ole mikään harvinaisuus: työsuhteen riitainen päättyminen, avioero, perinnönjako, asuntokaupan virhe. Kaikissa näissä vastapuolella on oikeus vaatia esiin aineistoa, jolla on merkitystä asian ratkaisemiselle.

Ero hakukoneeseen on siinä, mitä jälki kertoo. Google-haku ”poistettujen sähköpostien palautus” on pari hakusanaa. Sama kysymys botille on kokonainen keskustelu, jossa käyttäjä selittää tilanteensa, perustelee aikeensa ja usein kertoo myös, mitä pelkää. Se on omin sanoin kirjoitettu selostus. Juuri sellaista aineistoa asianajaja etsii.

Morgan sanoi Postille, ettei R.K.C:n ChatGPT-historialla ollut lopulta merkitystä jutun ratkeamiselle. Sillä tiedolla ei kuitenkaan ole paljon lohtua sille, joka pohtii, uskaltaako kysyä botilta apua erotilanteeseen tai veloistaan. Kynnys ei nouse siitä, että lokit ratkaisisivat juttuja, vaan siitä, että ne voidaan lukea ääneen oikeussalissa.