OpenAI:n tekoäly kiipesi aidan yli – Australia perustaa valvojan

Australian varapääministeri Richard Marles kuvasi syyskuussa tapahtunutta tavalla, jonka kuka tahansa ymmärtää. Tiedot olivat aidan takana, ja tekoälyagentti kiipesi sen yli.

Tiistaina 10. marraskuuta pääministeri Anthony Albanese kertoi, mitä siitä seuraa. Australia aikoo perustaa tekoälyn turvallisuusviranomaisen, joka voisi määrätä yrityksille ABC Newsin mukaan ”merkittäviä seuraamuksia” ja vaatia niiden malleja riippumattomaan arviointiin. Tekoäly-yhtiöiden pitäisi jatkossa ilmoittaa tietoturvaloukkauksista ja mahdollisista rikoslain rikkomuksista viranomaisille.

Mitään ei ole vielä säädetty. Hallitus hyväksyi pikaselvityksen kaikki 18 suositusta, mutta itse selvitystä ei ole julkaistu, eikä lakiesityksen aikataulua tai sakkojen suuruutta ole kerrottu. Albanesen mukaan kansalliset turvallisuusstandardit tekoälyn kehittäjille valmistuvat vuoden loppuun mennessä.

Mitä kesäkuussa tapahtui

Kyse on Australian Medicaresta, ei Yhdysvaltain samannimisestä ohjelmasta. Australian sosiaaliturvavirasto Services Australia ylläpitää Medicaren tilastopalvelua, josta saa koottuja tietoja esimerkiksi lääkekorvauksista ja rokotuksista.

ABC Newsin mukaan OpenAI antoi agentilleen 18. kesäkuuta harmittoman tehtävän: selvittää julkisia lääkemenoja. Agentti löysi portaalin ja teki siihen kyselyjä. Kun portaali ei antanut haluttua tietoa, agentti pääsi käsiksi tietoihin, joita ei ollut julkaistu. Kukaan ihminen ei käskenyt sitä tekemään niin. OpenAI:n tiedottajan mukaan mallit ”toimivat tavalla, jota emme tarkoittaneet”.

Henkilötietoja ei hallituksen mukaan päätynyt agentille. Agentti kuitenkin ajoi komentoja, haki sisäisiä tiedostoja ja tunnistetietoja sekä kirjoitti tiedostoja järjestelmään. Albanese ja hallitus ovat puhuneet hakkeroinnista. ABC:n mukaan OpenAI ei silti näytä rikkoneen mitään lakia, eikä Australian liittovaltion poliisi ole aloittanut tutkintaa, koska rikosilmoitusta ei ole tehty.

Aikajana selittää, miksi Canberrassa suututtiin. OpenAI havaitsi tapauksen 11. elokuuta, mutta ilmoitti siitä vasta 10. syyskuuta sähköpostilla Services Australian yleiseen postilaatikkoon. Albanese kutsui viivettä ”täysin kestämättömäksi” ja sanoi, ettei sellaista saa enää tapahtua.

OpenAI pyysi anteeksi

Yhtiö julkaisi syyskuun lopussa blogikirjoituksen otsikolla ”How we will do better for Australia”. Sen mukaan tapaus sattui, kun yhtiö koulutti sisäiseen käyttöön tarkoitettua mallia, jota ei ollut tarkoitus julkaista. Mallista puuttuivat yhtiön kuluttajatuotteiden suojaukset. ”Olemme pahoillamme ja teemme töitä toimiaksemme jatkossa paremmin”, OpenAI kirjoitti englanniksi.

Australia ei ollut ainoa kohde. OpenAI kertoi ilmoittaneensa ”kymmenille kolmansille osapuolille” agenteista, jotka olivat ohittaneet tietoturvakontrolleja. Esimerkiksi agentit käyttivät vuotaneita salasanoja, murtautuivat verkkosivujen taustajärjestelmiin ja kiersivät maksumuureja. Yhtiö lykkäsi myös seuraavan mallinsa GPT-6.1 Astran julkaisua. Turvallisuusjärjestelmistä vastaava johtaja Saachi Jain sanoi ABC:n mukaan, ettei malli ”aivan täyttänyt vaatimuksia siinä, että se pysyy tehtävänsä ja valtuuksiensa rajoissa”.

Tiistain päätöksiä OpenAI ei ollut kommentoinut ABC Newsin ja SBS:n juttujen julkaisuhetkellä.

Arvostelijoille liian vähän

Sisäministeri Tony Burken mukaan rikoslain on pysyttävä tekoälyn tahdissa. Hän perusteli kiirettä sillä, että aika tietoturva-aukon löytymisestä sen hyväksikäyttöön on lyhentynyt noin kahdesta ja puolesta vuodesta noin kymmeneen tuntiin.

Kaikki eivät ole vakuuttuneita. Vihreiden David Shoebridge kutsui hallituksen vastausta ”sanasalaatiksi” ja ”näennäisuudistukseksi”. Sitoutumaton senaattori David Pocock moitti, ettei paketti sisällä määräaikaan sidottua pakollista raportointia eikä rikoslain muutoksia. Selvityksen suositukset nimittäin vain kehottavat harkitsemaan esimerkiksi rikosta, jossa yhtiö vastaisi siitä, ettei se estänyt vahinkoa. Oppositiokoalitio puolestaan lupasi tukea hallitusta.

Tapaus koskettaa muitakin kuin hallintoa. Kun yritykset antavat agenteille tehtäviä ja oikeuksia omiin järjestelmiinsä, kysymys vastuusta tulee jokaisen IT-osaston pöydälle. AI Suomi kirjoitti aiemmin siitä, miksi tekoälyagentti hoitaa asiasi, paitsi pankissa. Australian tapaus näyttää, mitä tapahtuu, kun agentti ei pysähdy ensimmäiseen suljettuun oveen.

Kuka valvoisi Suomessa?

EU:ssa valvoja on jo olemassa. Komission tekoälytoimisto AI Office valvoo yleiskäyttöisten tekoälymallien tarjoajia, kuten OpenAI:ta. Tekoälyasetuksen mukaan järjestelmäriskin malleja tarjoavien yhtiöiden on ilmoitettava vakavista vaaratilanteista tekoälytoimistolle viipymättä. Laiminlyönnistä voi seurata jopa 15 miljoonan euron tai kolmen prosentin maailmanlaajuisen liikevaihdon sakko sen mukaan, kumpi on suurempi.

Australian tapauksen kaltainen tilanne voisi silti jäädä EU:ssakin harmaalle alueelle. Tekoälyasetus koskee pääosin markkinoille saatettuja malleja, ja tutkimus ja kehitys ennen julkaisua on rajattu laajalti sen ulkopuolelle. OpenAI:n mukaan agentti oli koulutusvaiheessa oleva sisäinen malli.

Suomessa tekoälyasetuksen kansallista valvontaa koordinoi Traficom. Jos agentti pääsisi luvatta vaikkapa Kelan tilastopalveluun, Traficomin Kyberturvallisuuskeskus käsittelisi tapauksen tietoturvaloukkauksena ja tietosuojavaltuutettu tulisi mukaan, jos henkilötietoja vuotaisi. Ilmoitusvelvollisuus koskisi silloin kuitenkin murron kohteeksi joutunutta virastoa eikä agentin tehnyttä yhtiötä. Juuri tähän aukkoon Australia nyt tarttuu.

AI Suomi ei ehtinyt saada Traficomin kommenttia tähän juttuun. Kysymys on silti ajankohtainen. Australian hallituksen mukaan tapauksia oli kymmeniä, myös Yhdysvaltain hallinnon sivustoilla, eikä OpenAI kerro julkisesti, keihin agentit ovat yrittäneet päästä käsiksi. Eurooppalainen virasto voi kuulla omasta tapauksestaan vasta, kun yhtiö ilmoittaa siitä.