Svenska Dagbladet ja Göteborgs-Posten julkaisivat tiistaina laajan tutkivan jutun, joka paljastaa Ray-Ban Meta -älylasien videomateriaalin päätyvän ihmisten katseltavaksi Nairobissa, Keniassa. Lasien tekoälytoimintoa käyttävien ihmisten videoita luokittelevat Metan alihankkija Saman palveluksessa olevat datatarkastajat. Ruotsalaistoimittajat matkustivat Keniaan ja haastattelivat työntekijöitä paikan päällä.
Se, mitä datatarkastajat näkevät, on kaukana viattomasta. Työntekijät kertovat nähneensä käyttäjien kylpyhuonekäyntejä, alastonkohtauksia, seksivideoita ja pankkikorttitietoja. Eräs tarkastaja kuvaili tilannetta suorasanaisesti: joku saattoi kävellä lasit päässään, ja sitten kumppani tuli kylpyhuoneesta alasti tai riisui vaatteitaan. Tarkastajien mukaan käyttäjät eivät todennäköisesti tiedä, että heidän materiaaliaan katsotaan.
Videomateriaali syntyy, kun käyttäjä aktivoi lasien tekoälytoiminnon tunnistaakseen esineitä tai ympäristöään. Meta lähettää kuvamateriaalia palvelimilleen analysoitavaksi, mutta yhtiö ei kerro käyttäjille selkeästi, että ihmiset saattavat tarkistaa tallenteet. Kun materiaali on lähetetty, käyttäjä menettää käytännössä hallinnan siihen, miten dataa käytetään.
“Ymmärrät, että katsot jonkun yksityiselämää, mutta samalla sinun odotetaan vain tekevän työsi.”
Suodattimet pettävät, Meta vaikenee
Metan sisäisen käytännön mukaan arkaluontoinen materiaali ei saisi koskaan päätyä datatarkastajien näytöille. Yhtiö käyttää algoritmista suodatusta, joka tunnistaa kasvoja ja sumentaa ne automaattisesti. Työntekijöiden mukaan kasvojentunnistus pettää kuitenkin erityisesti huonossa valaistuksessa, jolloin tunnistettavaa materiaalia livahtaa suodattimen läpi.
Entiset Meta-työntekijät Yhdysvalloissa vahvistivat ruotsalaistoimittajille, ettei arkaluontoista dataa ole tarkoitettu tekoälymallien koulutusdataksi. Siitä huolimatta sitä päätyy kenialaisten ihmisten katseltavaksi ilman riittäviä suojatoimia. Verkkoliikenteen analyysi paljasti, että lasit ottavat säännöllisesti yhteyttä Metan palvelimiin Ruotsissa ja Tanskassa.
Meta ei vastannut toimittajien tiedusteluihin kahteen kuukauteen. Lopulta yhtiö ohjasi kysyjät käyttöehtoihinsa ja tietosuojaselosteeseensa, joissa mainitaan ohimennen "automaattinen tai manuaalinen (ihmisen tekemä) tarkistus". Markkinointimateriaaleissaan Meta puolestaan lupaa, että lasit on rakennettu "yksityisyytesi mielessä".
EU painostaa, GDPR-riski kasvaa
EU:n yleinen tietosuoja-asetus edellyttää selkeää suostumusta henkilötietojen käsittelyyn ja erityisiä suojatoimia, kun dataa siirretään unionin ulkopuolelle. Kenialla ei ole EU:n myöntämää tietosuojan riittävyyspäätöstä, joten henkilötietojen siirto maahan vaatii kattavia sopimusjärjestelyjä. NOYB:n lakimies Kleanthi Sardeli totesi The Decoderille suoraan: "Jos tätä tapahtuu Euroopassa, sekä läpinäkyvyys että laillinen peruste käsittelylle puuttuvat."
Ruotsin tietosuojaviranomaisen IMY:n lakimies Petra Wierup korosti, että GDPR:n velvoitteet ulottuvat kolmansien maiden alihankkijoihin asti, eikä niitä voi kiertää ulkoistamalla työn halvan työvoiman maihin. Euroopan parlamentin jäsenet painostavat nyt komissiota selvittämään Metan toimintaa. Irlannin tietosuojaviranomaiseen on oltu yhteydessä mahdollisten rikkomusten vuoksi, sillä Meta vastaa EU:ssa tietosuojastaan Dublinin kautta.
Suomalaisille kuluttajille tapaus on konkreettinen. Ray-Ban Meta -laseja myydään Suomessa muun muassa Instrumentariumin, Silmäaseman ja Synsamin kautta. Suomalaisten käyttäjien videomateriaali kulkee saman käsittelyprosessin läpi kuin muidenkin eurooppalaisten, eikä Suomen tietosuojavaltuutetun toimisto ole toistaiseksi ottanut kantaa tapaukseen.
Omistatko Ray-Ban Meta -lasit?
Jos käytät lasien tekoälytoimintoa, kuvaamaasi materiaalia saatetaan lähettää ihmisten tarkasteltavaksi. Tarkista yksityisyysasetuksesi Meta View -sovelluksesta ja harkitse tekoälytoiminnon käytön rajoittamista.
Sanasto
Annotointi
Datan merkitsemistä ja luokittelua tekoälyn koulutusta varten. Ihminen esimerkiksi katsoo kuvan ja merkitsee siihen, mitä siinä näkyy, jotta tekoäly oppii tunnistamaan vastaavia kohteita.
Alihankkija Saman synkkä tausta
Sama ei ole ensimmäistä kertaa tämänkaltaisessa skandaalissa. Kenialainen alihankkija luokitteli aiemmin OpenAI:lle ChatGPT:n koulutusaineistosta väkivaltaista ja seksuaalista sisältöä. Tuolloin työntekijöille maksettiin noin 1,30–2,00 dollaria tunnissa, ja osa heistä kuvaili kokemusta kidutukseksi. Yhtiötä on syytetty myös ammattiyhdistystoiminnan estämisestä. Sama lopetti Metan sisältömoderaation vuonna 2023 ja siirtyi tietokonenäön annotointiin, mutta ongelmat näyttävät seuranneen mukana.
Tapaus asettaa koko älylasiteollisuuden tarkasteluun. Snap julkaisee omat Specs-lasinsa myöhemmin tänä vuonna, ja Google kehittää omia laitteitaan. Kilpailijat ovat toistaiseksi korostaneet laitteella tapahtuvaa datan käsittelyä, mutta niidenkään tietosuojakäytäntöjä ei ole testattu vastaavalla tavalla. EU:n tekoälyasetuksen tullessa kokonaisuudessaan voimaan vuonna 2026 biometristä dataa käsittelevät laitteet voivat päätyä korkean riskin luokkaan, mikä toisi mukanaan tiukat valvontavelvoitteet.
Metan vaikeneminen ei riitä vastaukseksi tilanteessa, jossa eurooppalaiset lainsäätäjät ja tietosuojaviranomaiset ovat jo liikkeellä. Käyttäjien luottamusta on vaikea palauttaa, jos yhtiö ei pysty selittämään, miten kenialaiset alihankkijat päätyvät katsomaan eurooppalaisten makuuhuonevideoita.
Viikoittainen uutiskirje
Tule firmasi fiksuimmaksi AI-osaajaksi
Yksi uutiskirje kerrallaan. Kokoamme viikon tärkeimmät tekoälyuutiset suomeksi ja kerromme, mitä ne tarkoittavat sinun työsi kannalta. Luet sen kahvitauolla.
