Grok tuotti 3 miljoonaa deepfakea 11 päivässä

Kolme miljoonaa kuvaa 11 päivässä

Elon Muskin xAI julkaisi joulukuussa 2025 Grok-tekoälymallilleen uuden kuvantuotto-ominaisuuden, joka osoittautui nopeasti vakavaksi ongelmaksi. Brittiläisen Centre for Countering Digital Hate -järjestön selvityksen mukaan Grok tuotti arviolta kolme miljoonaa seksuaalista deepfake-kuvaa vain 11 päivän aikana julkaisun jälkeen. Noin kaksi prosenttia analysoiduista kuvista näytti esittävän alaikäisiä.

Ominaisuudella pystyi käytännössä riisumaan valokuvissa esiintyviä ihmisiä digitaalisesti ja tuottamaan seksualisoituja väärennöskuvia ilman kuvissa esiintyvien henkilöiden suostumusta. Käyttäjät syöttivät Grokille julkisuuden henkilöiden ja tavallisten ihmisten kuvia, ja turvarajat olivat käytännössä olemattomat.

Britannia ja Irlanti johtavat tutkintaa

Britannian tietosuojaviranomainen ICO aloitti helmikuun alussa virallisen tutkinnan sekä X Internet Unlimited Companysta että xAI:sta. ICO:n mukaan tapaus herättää vakavia kysymyksiä siitä, miten ihmisten henkilötietoja on käytetty ilman heidän tietoaan tai suostumustaan. ICO voi määrätä sakkoja 17,5 miljoonaan puntaan asti tai neljä prosenttia yrityksen maailmanlaajuisesta liikevaihdosta.

Britannian mediavalvoja Ofcom käynnisti oman tutkintansa maan Online Safety Act -lain nojalla. Ofcomin kiinnostuksen kohteena on erityisesti se, onko X tunnistanut seksuaalisen deepfake-sisällön riskit riittävästi ja poistanut haitallista materiaalia tarpeeksi nopeasti.

Irlannin tietosuojakomissio DPC ilmoitti 17. helmikuuta laajamittaisesta tutkinnasta. Koska X:n eurooppalainen pääkonttori sijaitsee Dublinissa, DPC toimii GDPR:n mukaisena johtavana valvontaviranomaisena EU:ssa. Tutkinnassa selvitetään, onko X noudattanut EU:n tietosuoja-asetusta käsitellessään eurooppalaisten henkilötietoja Grokin kuvantuotannossa.

Tutkinnat leviävät ympäri maailmaa

Ranska on edennyt pisimmälle. Pariisin syyttäjänvirasto käynnisti rikostutkinnan, jossa xAI:ta epäillään laittomasta tiedonkeruusta ja osallisuudesta lapsiin kohdistuvan seksuaalisen materiaalin hallussapitoon. Ranskalaisviranomaiset tekivät ratsian X:n Pariisin-toimistolle, ja sekä Elon Musk että X:n toimitusjohtaja Linda Yaccarino on kutsuttu kuulemiseen huhtikuussa.

Indonesia reagoi nopeimmin ja esti Grokin käytön kokonaan jo 10. tammikuuta. Malesia seurasi perässä rajoittamalla pääsyä palveluun ja käynnistämällä oikeustoimet. Intiassa viestintäministeriö vaati X:ltä yksityiskohtaisia korjaustoimia, ja Kanada laajensi omaa tietosuojatutkintaansa. Australian eSafety-viranomainen tutkii niin ikään tapausta.

Euroopan komissio määräsi X:n säilyttämään kaikki Grokiin liittyvät sisäiset asiakirjat ja tiedot vuoden 2026 loppuun asti. Komission edustaja kuvaili tilannetta "laittomaksi, kauhistuttavaksi ja vastenmieliseksi".

Sääntelyn tulikoe

Grok-tapaus on ensimmäinen merkittävä testi sille, pystyvätkö eurooppalaiset viranomaiset todella puuttumaan tekoäly-yhtiöiden toimintaan. GDPR:n ja Digital Services Actin sakkomekanismit ovat paperilla pelottavia, sillä neljä prosenttia maailmanlaajuisesta liikevaihdosta tarkoittaisi xAI:n tapauksessa merkittäviä summia. Pelkkä sakon uhka ei kuitenkaan riitä, jos tutkintaprosessit venyvät vuosien mittaisiksi.

Suomalaisille tapaus on konkreettinen muistutus siitä, että tekoälyn tuottama väärennöskuva voi koskettaa ketä tahansa. EU-kansalaisena suomalaisten henkilötiedot kuuluvat GDPR:n suojan piiriin, mutta todellinen suoja riippuu siitä, kuinka nopeasti viranomaiset pystyvät toimimaan. Indonesian ja Malaysian kaltaiset nopeat reaktiot – palvelun estäminen kokonaan – ovat toistaiseksi osoittautuneet tehokkaammiksi kuin EU:n tutkintaprosessi.

Ratkaisevaa on se, mitä seuraavien kuukausien aikana tapahtuu. Jos Ranskan rikostutkinta etenee ja DPC:n tutkinta johtaa todellisiin sanktioihin, EU:n tekoälysääntely saa kaivattua uskottavuutta. Jos prosessit sen sijaan hautautuvat byrokratiaan, viesti tekoäly-yhtiöille on selvä: Euroopassa voi ottaa riskejä ilman todellisia seurauksia.