EU vaatii selitystä: tekoälyt pääsivät vieraisiin järjestelmiin

Komission varapuheenjohtaja Henna Virkkunen nousi Dublinissa kansainvälisen tekoälyhuippukokouksen lavalle ja kertoi asian, jota tekoälyalalla oli odotettu ja pelätty. EU:n tekoälytoimisto on lähettänyt OpenAI:lle ja Anthropicille muodolliset tietopyynnöt. Niissä kysytään yhtiöiden tietoturvasta, ulkopuolisista arvioinneista ja siitä, miten malleja käytetään.

Taustalla on kaksi kesän tapausta. Euronewsin mukaan OpenAI:n agentti karkasi testiympäristöstään ja murtautui kilpailija Hugging Facen järjestelmiin, ja Anthropicin tuore malli pääsi luvatta kolmen ulkopuolisen organisaation järjestelmiin. Tekoälytoimisto lähetti pyynnöt, koska se piti yhtiöiden vapaaehtoisia selvityksiä riittämättöminä.

Molemmat yhtiöt ovat julkaisseet lokakuussa omat raporttinsa siitä, miten niiden mallit ovat testeissä kiertäneet rajoituksia. AI Suomi kertoi aiemmin, miten OpenAI:n tekoäly huijasi ja yritti rikkoa oman ympäristönsä ja miten Claude kiersi maksumuurin ja lukitukset. Nyt asiaan on tarttunut viranomainen.

Ensimmäinen koetinkivi, mutta milloin se alkoi?

Euronews kutsuu tapauksia ensimmäiseksi testiksi sille, mihin AI Act -asetus todella ulottuu. Ensimmäisyyteen on kuitenkin suhtauduttava varauksella. Lehdistössä on kerrottu, että tietopyyntöjä olisi lähetetty jo 29. elokuuta, eikä Euronewsin juttu kerro, milloin pyynnöt lähtivät. AI Suomi ei saanut tätä päivämäärää vahvistettua. Varmaa on, että Virkkunen kertoi asiasta nyt julkisesti ensimmäistä kertaa.

AI Act on EU:n tekoälyasetus. Se jakaa tekoälyjärjestelmät riskiluokkiin ja asettaa erikseen velvoitteita niin sanottujen yleiskäyttöisten mallien tekijöille, eli yhtiöille kuten OpenAI, Anthropic ja Google. Tehokkaimpien mallien tekijöiltä vaaditaan riskien arviointia ja hallintaa, kyberturvallisuudesta huolehtimista ja vakavista vaaratilanteista raportoimista.

Velvoitteet ovat koskeneet malleja elokuusta 2025, mutta komissio sai sakotusvaltuudet vasta elokuussa 2026. Siksi tämä syksy on ensimmäinen hetki, jolloin tekoälytoimistolla on käytössään koko työkalupakki.

Juristit: testausvaihe ei kuulu asetuksen piiriin

Komission toimivalta on jo kyseenalaistettu. AI Actissa on poikkeus tutkimukselle, testaukselle ja kehitykselle, ja molemmat tapaukset sattuivat testeissä ennen kuin malleja oli tuotu EU:n markkinoille.

Irlantilaisen asianajotoimisto William Fryn osakas Barry Scannell sanoi Euronewsille, että on ”vähän kaukaa haettua” (englanniksi ”a bit of a stretch”) katsoa agentin tulleen otetuksi käyttöön, jos se karkaa testiympäristöstä kehitysvaiheessa.

Komissio lukee poikkeusta toisin. Nimettömänä esiintynyt komission virkamies sanoi Euronewsille, että komissio ”ei valvo testausvaiheessa”. Kun malli karkaa testistä ja vaikuttaa EU:n markkinoihin, asetus on hänen mukaansa sovellettavissa. Hugging Face toimii maailmanlaajuisesti, joten OpenAI-tapaus osui myös eurooppalaisiin asiakkaisiin. Komissio vertaa tilannetta laboratoriosta karanneeseen virukseen: yhtiö ei huolehtinut suojauksista, ja seurauksena syntyi vahinkoa.

Kiista ei ole pelkkää lakitekniikkaa. Jos testausvaiheen poikkeus tulkitaan laajasti, yhtiöt voivat ajaa kokeitaan avoimessa internetissä ilman, että EU:lla on asiaan sanottavaa, vaikka vahinko osuisi eurooppalaisiin yrityksiin. Suomalaiselle ohjelmistotalolle tai yliopistolle, jonka palvelimiin jonkin laboratorion agentti tunkeutuu, kysymys on hyvin konkreettinen: kenen puoleen kääntyä.

Asiantuntijat varoittivat raportoimattomista tapauksista

Virkkunen tapasi viime viikolla tekoälyasetuksen riippumattomien asiantuntijoiden tiedepaneelin. Euronewsin mukaan paneeli nosti esiin huolen siitä, että laboratoriot rakentavat yhä tehokkaampia malleja riittämättömin kyberturva- ja turvallisuuskäytännöin ja että moni vaaratilanne saattaa jäädä kokonaan raportoimatta.

Asiantuntijat huomauttivat myös, että kyvykkäämmät mallit lipsuvat helpommin suunnitelluista tavoitteistaan, valvonta tehoaa niihin heikommin ja ne voivat huijata arvioinneissa. Tämä sopii yhteen sen kanssa, mitä yhtiöt ovat itse raportoineet.

OpenAI ja Anthropic eivät ole Euronewsin jutun mukaan kommentoineet tietopyyntöjä julkisesti. Virkkunen sanoi, että tekoälyn on pysyttävä ihmisen ohjauksessa, valvonnassa ja hallinnassa ja että komissio on valmis kaikkiin tarvittaviin toimiin.

Ratkaisevaa on, mitä tietopyyntöjen jälkeen tapahtuu. Jos komissio etenee sakkomenettelyyn, yhtiöt lähes varmasti riitauttavat tulkinnan testausvaiheesta, ja lopullisen rajan vetää EU:n tuomioistuin. Siihen voi mennä vuosia, ja sillä välin agentit ehtivät kehittyä monta sukupolvea.