Valokuva otettiin, kun hän oli 11-vuotias. Tavallinen lapsuudenkuva, jollaisia on jokaisen perheen albumissa.
Wyomingissa asuva nainen, joka esiintyy oikeuden asiakirjoissa nimellä Jane Doe 4, kertoo kanteessaan, että hänen isäpuolensa syötti tuon kuvan Grokille ja tuotti siitä yli 7 000 seksuaalista kuvaa ja videota hänestä lapsena. Osan miehen väitetään levittäneen verkossa. Poliisi löysi materiaalin takavarikoidessaan hänen laitteitaan. Kaksi päivää ratsian jälkeen isäpuoli teki itsemurhan.
Nainen kertoi tapauksestaan Washington Postille elokuun puolivälissä. Samalla hän liittyi ryhmäkanteeseen, jonka kolme tennesseeläistä alaikäistä nosti maaliskuussa xAI:tä vastaan. Kyse on väitteistä. Tuomiota ei ole annettu, eikä yhtiöiden vastuuta ole ratkaistu missään oikeusasteessa.
Viisi kantajaa, kaksi vastaajaa
Juttu on vireillä liittovaltion tuomioistuimessa Kaliforniassa, ja kantajat hakevat sille ryhmäkanteen asemaa. Heinäkuussa jätettyyn täydennettyyn haastehakemukseen lisättiin kaksi uutta kantajaa, Wyomingista ja Wisconsinista. Nimettyjä Jane Doe -kantajia on nyt viisi.
Samassa yhteydessä vastaajaksi tuli xAI:n rinnalle Stability AI, jonka kuvanmuokkaustyökaluja kantajat väittävät käytetyn osassa tapauksia. Kanneperusteita on viisi: lasta seksuaalisesti esittävän materiaalin tuottaminen, ihmiskaupasta hyötyminen, tuottamus, tuotteen puutteellinen suunnittelu ja yleisen häiriön aiheuttaminen. Kantajien mukaan ryhmä voisi kattaa ainakin tuhansia alaikäisiä.
“Haluamme saada nämä suojaukset paikoilleen, jottemme aiheuta tätä vahinkoa kokonaiselle lapsisukupolvelle.”
Martinin lausunto on alun perin englanniksi: "We want to put these guardrails in place so that we do not cause this harm across an entire generation of children."
Mitkä suojaukset kanteen mukaan pettivät
Kuvageneraattorissa on käytännössä neljä kohtaa, joissa tällainen käyttö pitäisi katketa. Ladatusta kuvasta pitäisi tunnistaa lapsi ja estää seksuaalinen muokkaus kokonaan. Kehotteista pitäisi suodattaa alaikäisyyteen viittaavat pyynnöt, myös kierretyt muotoilut. Valmiit kuvat pitäisi verrata tunnettujen laittomien tiedostojen tiivistetietokantoihin. Ja toistuvasti yrittävä käyttäjätili pitäisi sulkea, ei vain torjua yksittäistä pyyntöä.
Kanteen mukaan mikään näistä ei pysäyttänyt yli 7 000 kuvan sarjaa. Kantajat kiinnittävät huomiota myös siihen, mitä tapahtui vahingon jälkeen. Heidän mukaansa xAI teki helmikuussa Yhdysvaltain kadonneiden ja hyväksikäytettyjen lasten keskukselle NCMEC:lle vain yhden ilmoituksen eikä liittänyt siihen kuvia tai tekijän IP-osoitetta, vaikka poliisi pyysi niitä. Ilman IP-osoitetta tutkinnan aloittaminen on hidasta.
xAI ei ole vastannut medioiden kommenttipyyntöihin. Stability AI kiisti väitteet NPR:lle lyhyesti.
“Kaikki väitteet siitä, ettei turvallisuus olisi meille ykkösprioriteetti, ovat yksiselitteisesti vääriä.”
Viranomaiset katsovat samaan suuntaan
Oikeudenkäynti ei ole ainoa paine. Kalifornian oikeusministeri Rob Bonta käynnisti tammikuussa selvityksen xAI:stä ja siitä, miten Grokilla pystyi tuottamaan ei-suostumuksellisia seksuaalisia kuvia tunnistettavista ihmisistä. EU puolestaan on avannut X:ää koskevan menettelyn, jossa arvioidaan alustan suojauksia lapsia esittävän materiaalin osalta. Kumpikaan selvitys ei ole päättynyt.
Yhtiö on myös hävinnyt muutaman välivaiheen. San Josen liittovaltiontuomari hylkäsi heinäkuun lopussa xAI:n vaatimuksen paljastaa kantajien henkilöllisyydet, koska se altistaisi heidät lisähäirinnälle. Elokuun alussa astui voimaan Minnesotan laki, joka kieltää riisumissovellukset, sen jälkeen kun tuomari torjui xAI:n kiirehakemuksen lain jäädyttämisestä.
