Kolme tennesseeläistä teini-ikäistä sai tietää, että heidän tavallisista valokuvistaan oli tehty seksuaalisia kuvia. Työkaluna oli Elon Muskin xAI-yhtiön Grok-chatbot. Kuvia oli muokannut joku Grokin käyttäjä ilman heidän tietoaan.
Nuoret haastoivat xAI:n oikeuteen 16. maaliskuuta. BBC:n mukaan he vaativat vahingonkorvausta, jonka määrää ei kerrottu. Lisäksi he hakivat välitöntä määräystä, joka kieltäisi Grokia tuottamasta tällaisia kuvia.
Tapaus on yksi monista. Bloomberg julkaisi keskiviikkona 11. marraskuuta laajan jutun otsikolla ”Teens Are Living in Fear After Grok Sexualized Their Childhood Photos”. Suomeksi otsikko kuuluu: teinit elävät pelossa sen jälkeen, kun Grok seksualisoi heidän lapsuudenkuvansa. Juttu on maksumuurin takana. AI Suomi ei kerro uhreista tietoja, joista heidät voisi tunnistaa.
Arviolta kolme miljoonaa kuvaa 11 päivässä
Mittakaavaa kuvaa verkon haittoja tutkivan CCDH-järjestön selvitys. Järjestön arvion mukaan Grok tuotti 29. joulukuuta 2025 ja 8. tammikuuta 2026 välisenä aikana noin kolme miljoonaa fotorealistista seksualisoitua kuvaa. Niistä noin 23 000 esitti CCDH:n arvion mukaan lapsia.
Luku on arvio, ei laskettu kokonaismäärä. CCDH poimi satunnaisesti 20 000 kuvallista julkaisua Grokin X-tililtä ja luokitteli ne tekoälyllä. Alaikäisiksi merkityt kuvat tarkistettiin käsin. Tulokset järjestö laajensi koskemaan kaikkia noin 4,6 miljoonaa kuvallista julkaisua. Selvityksestä ei käy ilmi, kuinka moni kuva tehtiin ilman kuvatun suostumusta.
Musk itse vähätteli asiaa. Hän sanoi 14. tammikuuta, ettei tiedä yhdestäkään Grokin tuottamasta alastonkuvasta, jossa olisi alaikäinen. ”Kirjaimellisesti nolla”, hän lisäsi. Alkuperäinen englanninkielinen lausunto kuului: ”not aware of any naked underage images generated by Grok. Literally zero.” Toimittajien kysymyksiin xAI vastasi tuolloin automaattiviestillä ”Legacy Media Lies” eli perinteinen media valehtelee.
Kanteita aikuisilta, nuorilta ja kokonaiselta kaupungilta
Ensimmäisten joukossa oikeuteen meni Ashley St. Clair, jonka kanssa Muskilla on lapsi. Hän nosti kanteen New Yorkissa 15. tammikuuta. Grokin käyttäjät olivat tehneet hänen kuvistaan seksualisoituja väärennöksiä, ja yksi niistä esitti häntä lapsena.
Viikkoa myöhemmin Kalifornian pohjoisen piirin liittovaltion tuomioistuimeen jätettiin ryhmäkanne. Bloomberg Law’n mukaan kanteessa väitetään, että yhtiö tiesi tekniikan voivan vaarantaa naisia ja tyttöjä mutta jätti silti suojaukset tekemättä.
“[Yhtiö] on sen sijaan päättänyt käyttää hyväkseen internetin näennäisesti kyltymätöntä ruokahalua [tällaisille kuville].”
Maaliskuussa Baltimoresta tuli ensimmäinen yhdysvaltalainen kaupunki, joka haastoi xAI:n oikeuteen. Kaupunki vetoaa kuluttajansuojaan. Britanniassa työväenpuolueen kansanedustaja Jess Asato nosti kesäkuussa kanteen yksityisten tietojen väärinkäytöstä.
Kesällä kanteet laajenivat. NPR kertoi heinäkuussa, että tekoälyvalmistajia vastaan nostettu ryhmäkanne oli laajentunut. Kanne koskee lapsia esittäviä seksuaalisia syväväärennöksiä. Saman kuun lopulla tennesseeläiset tytöt haastoivat oikeuteen Grokin lisäksi kuvageneraattoreita kehittävän Stability AI:n.
Defiance Act antaisi uhreille oman kanneoikeuden
Yhdysvaltain senaatti hyväksyi 13. tammikuuta yksimielisesti Defiance Act -lain. Senaattori Dick Durbinin ajama laki antaisi luvattomien seksuaalisten väärennösten uhreille oikeuden vaatia kuvien tekijöiltä vahingonkorvausta siviilioikeudessa. Edustajainhuoneessa lakia on ajanut Alexandria Ocasio-Cortez.
Laki ei ole vielä voimassa. Myös edustajainhuoneen on hyväksyttävä se, eikä AI Suomi löytänyt tietoa, että näin olisi tapahtunut. Senaatti hyväksyi saman lain jo vuonna 2024, mutta silloin se kaatui edustajainhuoneessa.
Asia koskee jokaista, jonka kasvokuva on verkossa. Grokin kaltainen työkalu tarvitsee raaka-aineeksi vain tavallisen kuvan, esimerkiksi koulukuvan tai somessa jaetun lomakuvan. Uhrin ei tarvitse olla julkisuuden henkilö. Hänen ei myöskään tarvitse koskaan itse käyttää palvelua.
Jos kuvaasi on muokattu tekoälyllä Suomessa
Tallenna todisteet ennen kuin pyydät kuvan poistamista. Poliisi neuvoo ottamaan kuvakaappaukset sisällöstä ja keräämään tekijän profiilitiedot.
Ilmoita sisällöstä alustalle. EU:n digipalvelusäädös (DSA) velvoittaa verkkoalustat tarjoamaan kanavan laittoman sisällön ilmoittamiseen ja käsittelemään ilmoitukset. Suomessa DSA:n valvontaa koordinoi Traficom.
Rikosilmoituksen voi tehdä poliisin verkkoasioinnissa osoitteessa asiointi.poliisi.fi tai poliisiasemalla. Hätätilanteessa soita 112. Poliisin neuvontanumero on 0295 419 800.
Rikosuhripäivystyksen (RIKU) mukaan loukkaavan syväväärennöksen levittäminen ilman suostumusta voi olla rikos. Kyseeseen voi tulla esimerkiksi rikoslain 24 luvussa säädetty seksuaalisen kuvan luvaton levittäminen. Poliisin mukaan lasta seksuaalisesti esittävän kuvamateriaalin hallussapito ja levittäminen ovat rangaistavia. Seksuaalirikoksista säädetään rikoslain 20 luvussa.
Nuoret voivat tehdä ilmoituksen Pelastakaa Lasten Nettivihje-palveluun, jossa on oma lomake nuorille. RIKU tarjoaa tukea numerossa 116 006 ja arkisin RIKUchatissa. Juristin puhelinneuvonta päivystää numerossa 0800 161 177 maanantaista torstaihin kello 17–19.
3 milj.
Seksualisoitua kuvaa 11 päivässä 29.12.2025–8.1.2026 (arvio)
23 000
Niistä kuvia, jotka esittivät CCDH:n arvion mukaan lapsia
4,6 milj.
Kuvallista julkaisua Grokin X-tilillä samalla jaksolla
20 000
Julkaisun satunnaisotos, josta arvio laajennettiin
Ensimmäinen kanne tuli kahdessa viikossa, eikä loppua näy
2025-12-29
Kuvatulva alkaa
Grok alkaa muokata käyttäjien pyynnöstä X:n kuvia seksualisoiduiksi. CCDH:n arvion mukaan 11 päivässä syntyy noin kolme miljoonaa kuvaa.
2026-01-13
Senaatti hyväksyy Defiance Actin
Laki antaisi uhreille kanneoikeuden. Edustajainhuone ei ole sitä hyväksynyt.
2026-01-15
Ashley St. Clairin kanne
Kanne nostetaan New Yorkissa.
2026-01-26
Ryhmäkanne Kaliforniassa
Kanne jätetään Kalifornian pohjoisen piirin liittovaltion tuomioistuimeen.
2026-03-16
Tennesseeläiset teinit haastavat xAI:n
Vaativat vahingonkorvausta ja välitöntä kieltomääräystä.
2026-03-24
Baltimore haastaa xAI:n
Ensimmäinen yhdysvaltalainen kaupunki, joka vetoaa kuluttajansuojaan.
2026-06-03
Kanne Britanniassa
Kansanedustaja Jess Asato haastaa yhtiön yksityisten tietojen väärinkäytöstä.
Sanasto
Ryhmäkanne
Kanne, jonka yksi tai muutama kantaja nostaa kaikkien samalla tavalla kärsineiden puolesta. Mahdollinen korvaus jaetaan koko ryhmälle, vaikka suurin osa ei osallistu oikeudenkäyntiin itse.
Kuka vastaa, käyttäjä vai kone?
Oikeudenkäynneissä ratkeaa lopulta, kuka kantaa vastuun. X:n tiedottaja linjasi St. Clairin tapauksen yhteydessä englanniksi: ”Anyone using or prompting Grok to make illegal content will suffer the same consequences.” Suomeksi: jokainen, joka käyttää Grokia tai ohjeistaa sen tekemään laitonta sisältöä, kärsii samat seuraukset.
Kantajat ovat eri mieltä. Heidän mukaansa vastuu kuuluu yhtiölle, joka rakensi työkalun ja päätti sen suojauksista. Jos tuomioistuimet hyväksyvät tämän näkemyksen, kuvageneraattoreiden kehittäjät joutuvat Yhdysvalloissa vastaamaan siitä, mitä käyttäjät niillä tekevät. Se koskisi xAI:n lisäksi koko alaa.
Viikoittainen uutiskirje
Tule firmasi fiksuimmaksi AI-osaajaksi
Yksi uutiskirje kerrallaan. Kokoamme viikon tärkeimmät tekoälyuutiset suomeksi ja kerromme, mitä ne tarkoittavat sinun työsi kannalta. Luet sen kahvitauolla.
