Ilmoitus saapui Espanjan tietosuojaviranomaiselle AEPD:lle samassa muodossa kuin tuhannet muut. Organisaatio kertoi, että sen järjestelmiin oli päästy luvatta ja että henkilötietoja oli käsitelty. Yksi kohta erotti lomakkeen muista: tekijäksi oli merkitty tekoälyagentti.
AEPD julkaisi tapauksesta blogikirjoituksen 14. syyskuuta. Sen mukaan kyseessä on viraston ensimmäinen ilmoitus henkilötietojen tietoturvaloukkauksesta, joka olisi toteutettu tekoälyagentilla. Agentti käytti viraston kuvauksen mukaan tunnettua kielimallia, jota ei nimetä.
Tapahtumaketju on kuvattu lyhyesti mutta konkreettisesti. Agentti aloitti haavoittuvuuksien etsimisen yleisistä tiedostoista ja teki onnistuneen kirjautumisen. Järjestelmään päästyään se alkoi AEPD:n mukaan etsiä haavoittuvuuksia itsenäisesti, ja löydös antoi sille mahdollisuuden muokata henkilötietoja ja päästä käsiksi laskuihin.
Viraston mielestä olennaista ei ole yksittäinen vaihe vaan se, että vaiheet ketjuuntuivat. Kolmas osapuoli olisi AEPD:n sanoin käyttänyt tekoälyagenttia välineenä hyökkäyksen eri vaiheiden onnistuneeseen ketjuttamiseen.
“Agentti voi ottaa vastaan tavoitteen, suunnitella välitehtäviä, käyttää työkaluja, ajaa koodia, konsultoida lähteitä, tulkita tuloksia ja muuttaa toimintaansa itsenäisesti sen mukaan, mitä se löytää.”
Mitä tapauksesta ei kerrota
AEPD kirjoittaa itse auki sen, mihin sen tieto perustuu. Saatavilla oleva tieto on peräisin kohdeorganisaation omasta ilmoituksesta, ja se on vasta analysoitava. Kohdeorganisaatiota ei nimetä, eikä mallia nimetä.
Virasto lisää yhden varauksen, joka kannattaa lukea kahdesti. Se, että hyökkäyksessä käytettiin tunnettua kielimallia, ei viraston mukaan tarkoita, että malli tai sen toimittajan infrastruktuuri olisi murrettu.
Yksikään ulkopuolinen taho ei ole vahvistanut, että agentti olisi toiminut ilman ihmisen ohjausta jokaisessa vaiheessa. Väite autonomiasta on kohdeorganisaation kuvaus, jonka viranomainen on välittänyt eteenpäin. Se on tämän jutun katteettomin kohta, ja lukijan kannattaa pitää se mielessä loppuun asti.
Julkisesti tapausta on kommentoinut ainakin CyberVersen teknologiajohtaja Simon Phillips. Hän luetteli SecurityWeekille kolme vaihtoehtoista selitystä: hyökkääjä kiersi mallin suojaukset, malli karkasi huonosti rajatusta testiympäristöstä, tai joku rakensi tunnetun kielimallin pohjalta oman muunnelmansa ilman lupaa. Ensimmäinen vaihtoehto olisi Phillipsin mukaan huolestuttavin, koska se osoittaisi jonkun päässeen mallin ylläpitäjien asettamien kontrollien ohi.
Samalla hän jarrutti. ”Meidän täytyy suhtautua tähän tapaukseen varovasti ja välttää pelottelua”, Phillips sanoi SecurityWeekille. Sitaatti on käännetty englannista.
Sama velvollisuus koskee suomalaista yritystä
Espanjan tapaus on EU-asia, koska ilmoitusvelvollisuus tulee yleisestä tietosuoja-asetuksesta eikä Espanjan omasta laista. Suomessa sääntö on sanatarkasti sama. Tietosuojavaltuutetun toimiston ohje kuuluu näin: ”Henkilötietojen tietoturvaloukkauksesta on ilmoitettava tietosuojavaltuutetun toimistolle ilman aiheetonta viivytystä ja mahdollisuuksien mukaan 72 tunnin kuluessa siitä, kun rekisterinpitäjä on tullut tietoiseksi tietoturvaloukkauksesta.”
Ilmoituksen tekee rekisterinpitäjä. Se on kohteeksi joutunut organisaatio, ei hyökkääjä, ei agentti eikä kielimallin toimittaja. Vastuu ei siirry työkalulle, jolla murto tehtiin, aivan kuten se ei siirry haavoittuvuusskannerille tai varastetulle salasanalistalle.
Käytännössä tämä tarkoittaa, että kellon käynnistää havainto, ei tekijän tunnistaminen. Suomalaisen yrityksen ei tarvitse ratkaista kolmessa vuorokaudessa, ohjasiko murtoa ihminen vai kone. Sen pitää arvioida, kohdistuuko ihmisten oikeuksiin ja vapauksiin riski, ja jos kohdistuu, ilmoittaa. Tekijän luonne vaikuttaa siihen, miten murto tutkitaan ja tukitaan, mutta ei siihen, milloin lomake täytetään.
Laskut ja henkilötiedot ovat se kohta, joka koskee tavallista ihmistä. Laskuaineistossa on nimiä, osoitteita, asiakasnumeroita ja summia. AEPD:n kuvauksen mukaan agentti pystyi sekä pääsemään laskuihin että muokkaamaan henkilötietoja, ja muokkaaminen on tietosuojan kannalta eri asia kuin lukeminen: väärä tieto jää järjestelmään elämään senkin jälkeen, kun aukko on tukittu. Asiakas huomaa sen vasta, kun lasku tulee väärään osoitteeseen tai väärällä summalla.
Tietosuojavaltuutetun toimistolta ei ole julkista kannanottoa siihen, miten ilmoituslomake täytetään tilanteessa, jossa tekijäksi epäillään agenttia. Toimiston yleisohjeistus ei erikseen tunne tällaista tapausta. AEPD ei sekään käsittele blogikirjoituksessaan asetuksen artikloja, vaan kuvaa tapauksen ja muistuttaa organisaatioiden perusvelvollisuuksista: tunne käsittelytoimet, minimoi data, rajaa pääsyt, korjaa haavoittuvuudet, valvo toimittajia ja ole valmis vastaamaan.
