Katie Paul on seurannut sosiaalisen median mainosjärjestelmiä vuosia. Silti se, mitä hänen johtamansa Tech Transparency Project löysi Metan omasta mainoskirjastosta, oli poikkeuksellista jo pelkältä määrältään. Yhdysvaltalainen tutkimusjärjestö kertoi tiistaina löytäneensä Facebookista ja Instagramista yli 300 mainosta, joissa esitettiin lapsiin kohdistuvaa seksuaaliväkivaltaa. Valtaosa aineistosta oli tekoälyllä tuotettua.
Mainokset eivät livahtaneet läpi vahingossa. Ne kävivät Metan mainostarkastuksen, saivat hyväksynnän ja pyörivät maksettuina. Järjestön mukaan mainokset tavoittivat EU-maissa yli 29 000 ihmistä ja Britanniassa noin 6 800. Lähes 80 prosenttia mainoksista näkyi Yhdysvalloissa.
Kyseessä on Tech Transparency Projectin oma selvitys. Järjestö on riippumaton, Yhdysvalloissa toimiva teknologiajättien valvoja, eikä sillä ole kytköstä Metaan. Aineisto on kerätty Metan julkisesta mainoskirjastosta, jota kuka tahansa voi selata.
“Mainoksissa ei yritetty peittää kuvia eikä salata sitä, mitä niissä markkinoitiin. On tärkeää huomauttaa, että tämä ei ole ulkopuolisten Facebookiin tai Instagramiin julkaisemaa sisältöä. Nämä ovat mainoksia, jotka Meta tarkasti, hyväksyi ja päästi pyörimään, eikä niihin puututtu missään vaiheessa samalla kun yhtiö keräsi mainosrahat.”
Kuvat oli napattu somesta
Osa mainoksista ei ollut kokonaan keinotekoisia. Järjestö kertoo tunnistaneensa useista mainoksista oikeita lapsia, joiden kuvat oli poimittu julkisista lähteistä. Yhdessä tapauksessa kyse oli erään eurooppalaisen kuningashuoneen nuoresta jäsenestä, toisessa 14-vuotiaasta urheiluvaikuttajasta, jonka kuva oli peräisin hänen omalta Instagram-tililtään.
Havainto kääntää uutisen koskemaan myös tavallista some-käyttäjää. Kuvan ei tarvitse olla arkaluontoinen joutuakseen väärinkäytön aineistoksi. Riittää, että se on julkinen.
Moni mainoksista markkinoi niin sanottuja nudify-sovelluksia eli palveluita, jotka riisuvat ihmisen vaatteet kuvasta tekoälyn avulla. Järjestön laskelman mukaan lähes kaikki mainokset ohjasivat jollekin tekoälysovellukselle, ja noin 180 nimenomaan tällaiseen riisutuspalveluun. Osa sovellusten kehittäjistä oli kiinalaisia.
Päättyneestä mainoksesta ei voi ilmoittaa
Toinen keskeinen havainto koskee ilmoittamista. Metan mainoskirjastossa näkyvät myös jo päättyneet mainokset, mutta niistä ei ole minkäänlaista kanavaa tehdä ilmoitusta yhtiölle. Arkistoitu mainos jää siis paikalleen ilman että kukaan voi merkitä sitä laittomaksi.
Aktiivistenkin mainosten ilmoittaminen tuotti vaihtelevan tuloksen. Järjestö ilmoitti Metalle 129 käynnissä ollutta mainosta. Vastausten mukaan reilu puolet niistä ei rikkonut yhtiön sääntöjä. Osa ilmoitetuista mainoksista jäi näkyviin senkin jälkeen.
Kun järjestö luovutti koko aineistonsa Metalle 2. syyskuuta, yhtiö poisti noin 150 mainosta. Osa niistä kirjattiin aluksi aikuissisällön rikkomuksiksi eikä lasten hyväksikäytöksi.
Näin Meta vastasi
"Seksuaalinen hyväksikäyttö on kauheaa, ja teemme määrätietoisesti työtä pitääksemme sen poissa alustaltamme. Valtaosalla näistä mainoksista oli vähäinen tavoittavuus, ja moni oli poistettu käytöstä jo ennen kuin Wired jakoi ne meille. Moni mainoksista on myös ajalta ennen uutta tekoälyteknologiaa, jonka otimme hiljattain käyttöön havaitaksemme ja estääksemme sääntöjä rikkovat mainokset jo latausvaiheessa, ja parannamme näitä järjestelmiä jatkuvasti."
Meta on lisäksi kertonut, että mainoksista valtaosa sai alle 200 näyttökertaa ja niihin käytettiin yhteensä alle 5 000 dollaria. Nämä luvut ovat yhtiön omia eikä niitä ole vahvistettu ulkopuolisesti.
