40 vuotta alalla, sitten ChatGPT keksi todistajat

Stephen Aarons seisoi New Mexicon korkeimman oikeuden edessä elokuun 21. päivä ja yritti selittää, keitä valituskirjelmän todistajat oikein olivat. Vastaus oli, että ei keitään. Asianajaja oli syöttänyt murhaoikeudenkäynnin pöytäkirjat ChatGPT:lle saadakseen niistä tiivistelmän, ja kielimalli oli tuottanut hänelle todistajannimiä, poliisien lausuntoja ja havaintoja, joita jutussa ei ollut koskaan esitetty.

Yksi keksityistä yksityiskohdista kertoi, että ampuja oli pukeutunut tummiin housuihin ja valkoiseen paitaan. Sekin oli mallin sepittämä. Teksti päätyi kirjelmään, jolla haettiin muutosta elinkautiseen tuomioon.

Korkein oikeus tuomitsi Aaronsin 11. syyskuuta 5 000 dollarin sakkoihin, totesi hänet syylliseksi oikeuden halventamiseen ja poisti hänet jutusta. Asia etenee vielä asianajajien kurinpitolautakuntaan. Aarons on toiminut puolustusasianajajana yli 40 vuotta.

Tiedot istunnosta ja päätöksestä perustuvat Reutersin raporttiin, jonka Al Jazeera julkaisi. AI Suomi ei ole nähnyt oikeuden päätöstä alkuperäisenä, eikä muita riippumattomia lähteitä ollut käytettävissä tätä juttua kirjoitettaessa.

Keksitty todistaja on eri asia kuin keksitty ennakkotapaus

Asianajajien tekoälykömmähdyksistä on uutisoitu parin vuoden ajan, ja tyypillisesti kyse on ollut keksityistä ennakkotapauksista: kirjelmässä viitataan tuomioon, jota ei ole olemassa. Sellaisen paljastaa tietokantahaku muutamassa minuutissa.

Tässä jutussa keksittyä oli todistelu. Valituskirjelmä kuvaa, mitä oikeudenkäynnissä tapahtui ja mitä todistajat sanoivat, ja juuri sen kuvauksen varaan muutoksenhaku rakentuu. Jos kuvaus on väärä, ylempi oikeus arvioi tapahtumia, joita ei ollut.

Jutun vastaaja Oscar Renee Sandoval suorittaa elinkautista, ja hänen valituksensa on yhä kesken. Korkein oikeus määräsi 2. syyskuuta uudeksi avustajaksi julkisen puolustajan Kim Chavez Cookin.

Miksi kone keksii juuri uskottavan näköistä tavaraa

Kielimalli ei etsi tekstistä kohtia ja kopioi niitä. Se ennustaa, mikä sana jatkaa edellistä uskottavimmin. Kun sille antaa satojen sivujen pöytäkirjan ja pyytää tiivistelmää, se tuottaa tekstiä, joka näyttää oikeudenkäyntipöytäkirjan tiivistelmältä. Muoto on oikea, vaikka sisältö ei olisi.

Aukot täyttyvät sillä, mikä on tilastollisesti tavallista. Rikosjutun silminnäkijänkertomuksessa on tavallista, että ampujan vaatetus kuvataan. Siksi malli kuvaa vaatetuksen, vaikka pöytäkirjassa ei lukisi siitä mitään. Malli ei erottele muistamista ja arvaamista, koska se tekee koko ajan samaa asiaa.

Tiivistäminen on työelämän yleisin tekoälykäyttö, ja se tuntuu vaarattomalta, koska alkuperäinen aineisto on kuitenkin tallessa. Juuri siksi virheet jäävät huomaamatta. Tiivistelmän tarkistaminen vaatii alkuperäisen lukemisen, eli täsmälleen sen työn, jonka takia työkaluun tartuttiin. Sama koskee potilaskertomusta, kokousmuistiota ja viranomaispäätöksen perusteluja.

Entä Suomessa?

Tivi nosti tapauksen suomalaislukijoille tiistaina. Suomen osalta juttu jää tässä auki tarkoituksella: käytettävissä ei ollut lähdettä siitä, miten asianajajien valvonta täällä suhtautuu kielimallien käyttöön kirjelmien valmistelussa, joten siitä ei väitetä mitään.

Kysymys on silti sama kummallakin puolella Atlanttia. Avustaja vastaa siitä, mitä hänen kirjelmässään lukee, riippumatta siitä, mikä tekstin tuotti. Bacon ei istunnossa kysellyt ohjelmistosta vaan siitä, seuraako Aarons uutisia. OpenAI ei esiinny Reutersin raportissa, eikä yhtiön kommenttia tapaukseen ole julkisuudessa.

Aaronsin osuus tästä on 5 000 dollaria ja edessä oleva kurinpitokäsittely. Sandovalin osuus on aika. Hänen valituksensa on yhä kesken, uusi avustaja joutuu käymään aineiston läpi itse, ja sen ajan hän istuu elinkautistaan. Työkalun virheen hinnan maksaa raskaimmin se, joka ei sitä käyttänyt.