Ylen verifiointitoimittaja Johanna Vehkoo on julkaissut kuusi kirjaa. Kun hänen sähköpostiinsa tuli viesti, jossa kehuttiin hänen tuoreinta teostaan, se tuntui ensin aidolta. Lähettäjä kertoi edustavansa kansainvälistä kirjakerhoa, jonka jäseniä kirja kiinnostaisi.
Viesti oli kirjoitettu lähes virheettömällä suomella. Juuri se teki siitä vaarallisen. Vuosien ajan huijausviestin on tunnistanut kömpelöstä konekäännöksestä ja oudoista taivutuksista, mutta tämä viesti puhutteli vastaanottajaansa henkilökohtaisesti ja tunsi hänen tuotantonsa. Vehkoo epäilee, että tekstin laati tekoäly.
“Ensimmäistä kertaa elämässäni sain huijausviestin, joka puhutteli minua henkilökohtaisesti ja johon olisin halunnut uskoa.”
Lupauksen hinta paljastui pian. Kirjailijan olisi pitänyt ladata kirjansa kerhon palveluun ja maksaa siitä Ylen mukaan jopa satoja euroja. Kerhon sivuilla oli valmiina hinnasto kirjailijoille.
Tiimi, jota ei ollut olemassa
Vehkoo ryhtyi selvittämään, kuka viestin takana on. Limelight Book Club -niminen sivusto oli perustettu vain pari päivää ennen viestin saapumista, eikä siinä kerrottu omistajaa tai yhteystietoja. Sivuston kuvat tapahtumista ja jäsenistä esittivät ihmisiä, joita ei ollut olemassa.
Suurin osa tiimikuvista oli tehty OpenAI:n tai Googlen kuvatyökaluilla. Kahden tiimiläisen kuvat oli taas poimittu Goodreads-palvelun profiileista, ja niissä esiintyvät ihmiset olivat todellisia. Kanadalainen toimittaja Alexis Stockford vastasi Vehkoolle, ettei ollut koskaan kuullut ryhmästä. ”Heillä ei pitäisi olla mitään syytä käyttää kuvaani”, Stockford kirjoitti.
Yhdysvaltalainen kirjakauppias Lauren Ahmad arveli, että oikeiden kirjallisuuden ystävien kuvilla haettiin uskottavuutta. ”Ehkä he olivat etsineet oikeiden kirjallisuuden ystävien kuvia lisätäkseen sivustonsa uskottavuutta ja luotettavuutta”, Ahmad kirjoitti.
Kerhon toimitusjohtajaksi esittäytynyt Ayeni Samuel suostui lopulta videopuheluun. Hänen mukaansa kerholla on 20 000 jäsentä WhatsAppissa, mutta todisteita hän ei esittänyt. Huijauksen hän kiisti ja kertoi tekevänsä freelancetöitä elääkseen. Sivusto on sittemmin kadonnut verkosta, mutta kopio siitä jäi talteen Wayback Machine -arkistoon.
Näkymätön leima paljasti kuvan
Ratkaisevin löytö oli yhdessä tiimikuvassa. Siitä löytyi Googlen SynthID-vesileima.
SynthID on Google DeepMindin kehittämä tekniikka, joka piilottaa Googlen tekoälytyökaluilla tehtyyn kuvaan, videoon tai ääneen merkinnän. Ihmissilmä ei sitä näe, eikä se Googlen mukaan katoa rajaamisessa, suodattimissa tai pakkaamisessa. Merkinnän voi tarkistaa esimerkiksi lataamalla kuvan Gemini-sovellukseen ja kysymällä, onko se tehty Googlen tekoälyllä.
Tekniikalla on rajansa. Leima kertoo vain, että kuva on tehty Googlen tai sen kumppanien työkaluilla. Jos leimaa ei löydy, kuva voi silti olla jonkin toisen tekoälypalvelun tekemä.
Järjestöt varoittivat jäseniään
Suomen Kirjailijaliitto ja Suomen tietokirjailijat varoittivat jäseniään maanantaina 19. lokakuuta yhteisellä tiedotteella. Järjestöjen mukaan kirjakerhoksi tai kirja-alan toimijaksi esittäytyvät viestit lupaavat näkyvyyttä, markkinointia tai myynnin kasvua, mutta todellinen tavoite on saada rahaa tai henkilötietoja. Viestit voivat olla generatiivisella tekoälyllä kirjoitettuja, suomeksi tai englanniksi, ja lähettäjänä voi esiintyä keksitty taho tai oikean organisaation tai ihmisen nimi.
Kaava toistuu. Ensin kehutaan kirjailijan teosta, sitten luvataan uusia lukijoita, käännöksiä tai kansainvälistä näkyvyyttä. Maksupyyntö tulee vasta myöhemmin, joskus yhdessä kortti- tai henkilötietojen pyynnön kanssa.
Kirjailija Tiina Raevaara kertoi Ylelle saavansa huijausviestejä lähes päivittäin. Sama menetelmä sopii kuitenkin kenelle tahansa, jonka työ näkyy julkisesti: kuvittajalle, muusikolle, pienyrittäjälle tai yhdistyksen puheenjohtajalle. Kun tekoäly kääntää ja räätälöi viestin sekunneissa, huijarin ei enää tarvitse lähettää samaa kömpelöä tekstiä tuhansille. Jokaiselle voi kirjoittaa oman.
