Nimimerkki ei ole naamio
Redditin keskustelupalstalla joku kertoo työstressin purkautuvan unihäiriöinä. Hacker Newsissa toinen väittelee ohjelmointikielten eduista. Kumpikin kirjoittaa nimimerkillä ja olettaa, ettei kukaan koskaan yhdistä näitä viestejä oikeaan henkilöön. ETH Zürichin ja Anthropicin helmikuussa julkaisema tutkimus osoittaa, kuinka vaarallinen tämä oletus on.
Kuusihenkinen tutkijaryhmä rakensi järjestelmän, joka tunnistaa anonyymin nettikäyttäjän henkilöllisyyden muutamassa minuutissa. Hinta: yhdestä neljään dollaria per kohde. Tutkimusta johtivat Simon Lermen ja ETH Zürichin professori Florian Tramèr. Anthropicin puolelta mukana oli turvallisuustutkija Nicholas Carlini.
Kolmivaiheinen tunnistuskone
Järjestelmä toimii kolmessa vaiheessa. Ensin kielimalli käy läpi kohteen kirjoitukset ja poimii niistä henkilöllisyyteen viittaavia signaaleja: kirjoitustyylin, sanavalinnat, mainitut kiinnostuksen kohteet ja satunnaiset henkilökohtaiset paljastukset. Joku mainitsee työskentelevänsä biologian parissa tietyn tutkimusaiheen kanssa, toinen viittaa asuinkaupunkiinsa.
Toisessa vaiheessa järjestelmä etsii vastaavuuksia semanttisten upotuksien avulla. Se vertaa poimittuja piirteitä miljoonien julkisten profiilien tietoihin ja rajaa ehdokkaat muutamaan kymmeneen todennäköisimpään. Kolmannessa vaiheessa kielimalli arvioi jäljelle jääneet ehdokkaat ja tekee lopullisen päätöksen.
Mikään yksittäinen vaihe ei ole itsessään haitallinen. Tekstin tiivistäminen, upotuksien luominen ja ehdokkaiden vertailu ovat arkipäiväisiä tekoälysovelluksia. Yhdessä ne muodostavat tunnistuskoneen, jota vastaan perinteiset anonymisointikeinot eivät riitä.
67 prosenttia tunnistettu
Tutkijat testasivat järjestelmäänsä 338 Hacker News -käyttäjällä, joiden LinkedIn-profiili oli tiedossa vertailukohtana. Tulos: 226 käyttäjää tunnistettiin oikein eli 67 prosenttia kohteista. Tarkkuus oli 90 prosenttia, joten vääriä tunnistuksia kertyi vain 25.
Koko kokeen kustannus oli noin 2 000 dollaria. Perinteiset menetelmät, jotka eivät hyödynnä kielimalleja, saavuttivat samoilla aineistoilla käytännössä nollatuloksen.
Sama lähestymistapa toimi myös Reddit-aineistolla. Käyttäjien tunnistaminen eri aliredditien välillä ja ajallisin poikkileikkauksin ylitti perinteiset tekniikat selvästi. Skaalautuvuusarvioiden mukaan järjestelmä tunnistaisi noin 35 prosenttia kohteista jopa miljoonan ehdokkaan joukosta.
Myös tutkijoiden oma data paljastui
Tutkijat onnistuivat tunnistamaan yhdeksän henkilöä 125:stä Anthropicin omasta anonymisoidusta haastatteluaineistosta pelkkien litteroitujen keskustelujen perusteella. Anonymisointi ei riittänyt suojaksi edes kontrolloidussa tutkimusympäristössä.
Käytännön nimettömyys ei enää pidä
Vuosikymmeniä verkkokeskustelujen nimettömyys on perustunut ajatukseen, jota tutkijat kutsuvat käytännön hämäryydeksi. Hajallaan olevien pseudonyymien viestien yhdistäminen on ollut niin työlästä, ettei sitä käytännössä kukaan tee. Kielimallit muuttavat tämän laskelman perusteellisesti.
Aiemmin laajamittainen anonyymien käyttäjien tunnistaminen vaati tiedustelupalvelun resursseja tai tutkijaryhmän kuukausien työn. Nyt sama onnistuu kaupallisella tekoälyrajapinnalla ja parin tuhannen dollarin budjetilla. Kirjoitustyyli, erikoisalat ja alustojen väliset viittaukset muodostavat yhdessä sormenjäljen, jonka kielimalli lukee vaivatta.
Tämä koskettaa toimittajia, jotka suojaavat lähteitään, toisinajattelijoita autoritaarisissa maissa ja väärinkäytöksistä ilmoittavia. Se koskee yhtä lailla tavallista suomalaista, joka kirjoittaa nimimerkillä terveydestään, ihmissuhteistaan tai poliittisista näkemyksistään.
