Murto kesäkuussa, ilmoitus syyskuussa – OpenAI pyysi anteeksi

Jason Kwon aloitti puheenvuoronsa anteeksipyynnöllä. OpenAI:n strategiajohtaja istui tiistaina Sydneyssä Australian parlamentin tekoälyä käsittelevän yhteisvaliokunnan (Joint Select Committee on Artificial Intelligence) edessä. Viikkoa aiemmin OpenAI ja Anthropic olivat vielä kieltäytyneet lähettämästä johtajiaan senaatin kuulemiseen ja vedonneet lyhyeen varoitusaikaan.

Kwon puhui englanniksi. Hänen mukaansa yhtiön olisi pitänyt hoitaa myös reagointinsa paremmin.

Taustalla on tapaus, josta AI Suomi kertoi viime viikolla. OpenAI:n agentti pääsi 18. kesäkuuta luvatta Services Australian Medicare-tilastoportaaliin. Tämä tapahtui yhtiön sisäisen kyvykkyysarvioinnin aikana, kun agentti tutki julkisia lääkemenoja. Kwonin mukaan agentti löysi portaalista ei-julkisen pääsykohdan, eikä tunkeutuminen ollut hänen sanoin ”kovin kehittynyt”. Huolestuttavampaa on hänen mukaansa automaatio. Australian hallituksen mukaan henkilötietoja ei tiettävästi päässyt ulos. OpenAI:ta vastaan on Yhdysvalloissa jo nostettu kanne karanneista agenteista.

Viesti meni yleiseen postilaatikkoon

Kuulemisen terävin osuus koski sitä, miten Australia ylipäätään sai tietää asiasta. OpenAI huomasi agentin toimet elokuussa mutta ilmoitti Services Australialle vasta 10. syyskuuta. Viesti lähti viraston yleiseen ”public disclosures” -sähköpostiosoitteeseen, ja se avattiin seuraavana päivänä.

Riippumaton senaattori David Pocock kysyi, miksi yhtiö ei ottanut yhteyttä suoraan ministereihin tai virkamiehiin. ”Jälkikäteen ajatellen meidän olisi pitänyt toimia niin kuin ehdotatte”, Kwon myönsi. Hänen mukaansa yhtiössä tapausta oli käsitelty teknisenä asiana, eikä se ollut riittävää.

Kwon kertoi myös, ettei toimitusjohtaja Sam Altman tiennyt murrosta tavatessaan varapääministeri Richard Marlesin 1. syyskuuta. Senaattori Jonathon Duniam huomautti, että ilman OpenAI:n sähköpostia ”emme tietäisi vieläkään”. Kwon myönsi, ettei murtoa ehkä olisi muuten huomattu lainkaan.

Lupaukset: välitön ilmoitus ja paikallinen työryhmä

Jatkossa OpenAI lupaa ilmoittaa tietoturvapoikkeamista heti ja suoraan niiden kohteille sekä päivittää tietoja sitä mukaa kuin niitä selviää. Lupaus koskee esimerkiksi Uuden Etelä-Walesin kansallispuistoviraston tapausta. Kwonin mukaan ilmoitukset tehtiin 30 päivän kuluessa havainnosta, mutta yhtiö olisi toivonut toimineensa nopeammin.

Australiaan perustetaan työryhmä, johon tulee riippumattomia australialaisia asiantuntijoita. Sen on määrä esittää vuoden loppuun mennessä keinoja, joilla yhä kyvykkäämpien mallien riskejä hallitaan. Yhtiö lupasi lisäksi miljardin dollarin Daybreak-rahaston virastojen kyberpuolustukseen. Se kertoi myös keskeyttävänsä joidenkin kärkimallien koulutuksen, kunnes valvontaa ja infrastruktuuria on vahvistettu. Kaikki nämä ovat yhtiön omia ilmoituksia.

Valiokunta kuuli myös Anthropicia. Yhtiön suojauksista vastaava johtaja Dave Orr kertoi, että yhtiö on käynyt läpi ”satoja miljoonia” keskusteluja eikä ole löytänyt merkkejä murroista Australian hallinnon sivustoille. ”Emme ole löytäneet mitään tällaista, ja olemme etsineet”, Orr sanoi.

Suomessa ensimmäinen määräaika olisi vuorokausi

Australian tapaus paljastaa aukon, joka on olemassa myös Euroopassa. Ilmoitusvelvollisuudet on kirjoitettu murron kohteelle. Kun hyökkääjä on tekoälyagentti ja vain sen omistaja tietää asiasta, viranomaisten tieto riippuu siitä, kertooko yhtiö.

Jos vastaava agentti pääsisi suomalaisen valtionhallinnon palveluun, kyberturvallisuuslaki ja sen taustalla oleva EU:n NIS2-direktiivi velvoittaisivat kohdeorganisaation antamaan merkittävästä poikkeamasta varhaisen varoituksen 24 tunnin kuluessa siitä, kun se sai asiasta tiedon. Varsinainen ilmoitus on tehtävä 72 tunnissa ja loppuraportti kuukauden kuluessa. Ilmoitus menee toimialan valvovalle viranomaiselle, julkishallinnossa Traficomille, ja jokainen ilmoitus toimitetaan tiedoksi myös Kyberturvallisuuskeskuksen CSIRT-yksikölle.

Jos murrossa käsiteltäisiin henkilötietoja, tietosuoja-asetus vaatisi ilmoituksen tietosuojavaltuutetulle 72 tunnin kuluessa. Mallin tarjoajaa taas koskee EU:n tekoälyasetus. Sen mukaan systeemisen riskin yleiskäyttöisten mallien tarjoajien on raportoitava vakavista vaaratilanteista EU:n tekoälytoimistolle ilman aiheetonta viivytystä. Kuukauden hiljaisuutta ja yleiseen postilaatikkoon lähetettyä viestiä olisi vaikea pitää sellaisena.

Traficomin Kyberturvallisuuskeskuksen kommenttia ei ollut saatavilla tätä juttua kirjoitettaessa.

Australian tapauksesta on käytännön opetus suomalaisyrityksille, jotka antavat agenteille tunnuksia ja verkkoyhteyden. Hankintasopimukseen kannattaa kirjata, kenelle ja kuinka nopeasti tekoälytoimittaja ilmoittaa, jos sen agentti tekee jotain luvatonta. Muuten tieto voi päätyä samaan paikkaan kuin Australiassa: yleiseen postilaatikkoon, jota luetaan vasta seuraavana päivänä.