Grok riisui teinit koulukuvista – nyt xAI vastaa oikeudessa

Kolme tennesseeläistä teiniä haastoi Elon Muskin tekoäly-yhtiön xAI:n liittovaltion oikeuteen Kaliforniassa. Kantajat, jotka esiintyvät oikeuspapereissa nimillä Jane Doe 1, 2 ja 3, syyttävät xAI:ta siitä, että Grokin kuvanluontiteknologia muutti heidän tavallisia valokuviaan seksuaaliseksi materiaaliksi. Kanne hakee joukkokanteen asemaa – kannekirjelmän arvion mukaan uhreja on tuhansia.

Tekijä ei käyttänyt suoraan xAI:n Grok-chatbottia tai X-alustaa, vaan kolmannen osapuolen sovellusta, joka hyödynsi xAI:n rajapintaa. Poliisin mukaan tekijällä oli läheinen suhde yhteen uhreista, ja hän syötti sovellukseen kouluvalokuvia, vuosikirjakuvia ja sosiaalisen median kuvia. Sovellus tuotti näistä seksuaalista materiaalia, jota ei merkitty tekoälyn luomaksi.

Materiaalia levitettiin Discordissa, Telegramissa ja Mega-tiedostopalvelussa. Osa päätyi vaihtokauppaan muun lasten hyväksikäyttömateriaalin kanssa verkkohuoneissa, joissa oli satoja käyttäjiä. Tekijä loi vastaavaa sisältöä 18 muustakin henkilöstä ennen pidätystään. Uhrien asianajaja Vanessa Baehr-Jones kertoi, että kanteen tavoitteena on muuttaa tapaa, jolla tekoäly-yhtiöt tekevät liiketoimintapäätöksiä.

Turvatoimet puuttuvat siellä, missä niitä eniten tarvitaan

xAI on tietoisesti asemoinut Grokin kilpailijoitaan vapaammaksi kuvanluontityökaluksi. Siinä missä OpenAI:n DALL-E 3 kieltäytyy luomasta kuvia tunnistettavista henkilöistä ja merkitsee kaikki tuotoksensa vesileimalla, Grokista nämä perusturvatoimet puuttuvat. Googlen Imagen ja Midjourney rajoittavat seksuaalisen ja poliittisen sisällön tuottamista tiukasti. Grokilla on aiemmin luotu deepfake-kuvia poliitikoista ja julkkiksista, joita kilpailevat palvelut kieltäytyvät tuottamasta.

Kannekirjelmä nostaa esiin xAI:n liiketoimintamallin rakenteellisen ongelman. Yhtiö lisensoi teknologiaansa kolmansien osapuolten sovelluskehittäjille, usein Yhdysvaltojen ulkopuolelle, ja säilyttää rajapintansa kautta tuotetun sisällön omilla palvelimillaan. Samalla se yrittää kanteen mukaan ulkoistaa vastuun sovellusten tekijöille. Kannekirjelmässä todetaan suoraan: "Tällä tavoin xAI pystyi yrittämään ulkoistaa vastuun uskomattoman vaarallisesta työkalustaan."

Elon Musk on julkisesti kiistänyt ongelman ja väittänyt, ettei ole "kirjaimellisesti nähnyt yhtään" alaikäisiä kuvaavaa alastonkuvaa Grokin tuotoksissa. Tutkimusten mukaan Grokin kuvanluonnista on kuitenkin löytynyt merkittäviä määriä tällaista materiaalia. Kanne kuvailee Muskin kiistämistä osaksi strategiaa, jossa yhtiö pakottaa uhrit hakemaan oikeutta pitkien oikeusprosessien kautta.

EU ja Suomi kiristävät sääntelyä

Kanne osuu aikaan, jolloin Eurooppa tiukentaa tekoälyllä tuotetun seksuaalisen sisällön sääntelyä vauhdilla. Ranska, Espanja, Saksa ja Slovakia uhkasivat kaataa EU:n tekoälyasetuksen muutospaketin, ellei siihen sisällytetä nimenomaista deepfake-kieltoa. Taustalla vaikutti juuri Grokin tuottamien miljoonien deepfake-kuvien aiheuttama kohu alkuvuodesta. Muutospaketti etenee valiokuntaäänestykseen 18. maaliskuuta, minkä jälkeen edessä ovat vielä parlamentin ja neuvoston väliset loppuneuvottelut.

Tekoälyasetuksen läpinäkyvyysvelvoitteet tulevat voimaan elokuussa 2026 ja edellyttävät, että tekoälyllä tuotettu sisältö merkitään selkeästi. Jos velvoite olisi ollut voimassa aiemmin, xAI:n rajapinnan kautta tuotettu materiaali olisi pitänyt tunnistaa tekoälyn luomaksi. Komissio määräsi jo joulukuussa 2025 X-alustalle ensimmäisen DSA-sakon läpinäkyvyysvelvoitteiden rikkomisesta ja vaati yhtiötä säilyttämään kaikki Grokiin liittyvät asiakirjat.

Suomessa Varsinais-Suomen käräjäoikeus antoi alkuvuodesta maan ensimmäisen tuomion deepfake-alastonkuvista. Nuori mies tuomittiin sadan päivän sakkorangaistukseen ja 10 000 euron vahingonkorvauksiin kuvien julkaisemisesta. Suomen rikoslaki kattaa deepfake-väärinkäytökset identiteettivarkauden, kunnianloukkauksen ja seksuaalirikosten kautta, vaikka nimenomaista deepfake-pykälää ei toistaiseksi ole. Oikeusjärjestelmä pystyy reagoimaan tekoälyllä tuotettuun hyväksikäyttöön, mutta lainsäädäntö kulkee teknologian perässä.

Tapaus nostaa pöydälle rajapintatalouden keskeisen vastuukysymyksen: kuka kantaa vastuun, kun tekoälymalli tuottaa laitonta sisältöä kolmannen osapuolen sovelluksen kautta? xAI:n malli, jossa teknologia lisensoidaan ulkopuolisille mutta sisältö säilyy yhtiön palvelimilla, haastaa perinteiset vastuuketjut tavalla, johon lainsäätäjät eivät ole vielä varautuneet.

Jos kanne saa joukkokanteen aseman, siitä voi muodostua ennakkotapaus, joka pakottaa tekoäly-yhtiöt rakentamaan tiukemmat turvatoimet rajapintoihinsa. Tennesseen kolmen teinin oikeustaistelu ei koske vain heitä – se määrittää, voivatko tekoäly-yhtiöt jatkossa väistää vastuutaan piiloutumalla lisenssisopimustensa taakse vai kantaako teknologian tarjoaja aina vastuun myös kolmansien osapuolten käytöstä.