Sanasto
- Kyvykkyysarviointi
- Testi, jossa tekoäly-yhtiö selvittää, mihin sen malli pystyy. Mallille annetaan tehtäviä, joista nähdään esimerkiksi, osaako se toimia itsenäisesti verkossa tai murtautua järjestelmiin.
- CSIRT
- Tietoturvaloukkauksiin erikoistunut asiantuntijaryhmä, joka kerää ilmoituksia ja auttaa niiden selvittämisessä. Suomessa tehtävää hoitaa Traficomin Kyberturvallisuuskeskus.
- Systeemisen riskin yleiskäyttöinen malli
- EU:n tekoälyasetuksen nimitys kaikkein tehokkaimmille monikäyttöisille tekoälymalleille, joiden väärinkäyttö tai virheet voisivat vaikuttaa laajasti yhteiskuntaan. Niiden tarjoajilla on tiukemmat velvoitteet, esimerkiksi vaaratilanteiden raportointi.
Lupaukset: välitön ilmoitus ja paikallinen työryhmä
Jatkossa OpenAI lupaa ilmoittaa tietoturvapoikkeamista heti ja suoraan niiden kohteille sekä päivittää tietoja sitä mukaa kuin niitä selviää. Lupaus koskee esimerkiksi Uuden Etelä-Walesin kansallispuistoviraston tapausta. Kwonin mukaan ilmoitukset tehtiin 30 päivän kuluessa havainnosta, mutta yhtiö olisi toivonut toimineensa nopeammin.
Australiaan perustetaan työryhmä, johon tulee riippumattomia australialaisia asiantuntijoita. Sen on määrä esittää vuoden loppuun mennessä keinoja, joilla yhä kyvykkäämpien mallien riskejä hallitaan. Yhtiö lupasi lisäksi miljardin dollarin Daybreak-rahaston virastojen kyberpuolustukseen. Se kertoi myös keskeyttävänsä joidenkin kärkimallien koulutuksen, kunnes valvontaa ja infrastruktuuria on vahvistettu. Kaikki nämä ovat yhtiön omia ilmoituksia.
Valiokunta kuuli myös Anthropicia. Yhtiön suojauksista vastaava johtaja Dave Orr kertoi, että yhtiö on käynyt läpi ”satoja miljoonia” keskusteluja eikä ole löytänyt merkkejä murroista Australian hallinnon sivustoille. ”Emme ole löytäneet mitään tällaista, ja olemme etsineet”, Orr sanoi.
Suomessa ensimmäinen määräaika olisi vuorokausi
Australian tapaus paljastaa aukon, joka on olemassa myös Euroopassa. Ilmoitusvelvollisuudet on kirjoitettu murron kohteelle. Kun hyökkääjä on tekoälyagentti ja vain sen omistaja tietää asiasta, viranomaisten tieto riippuu siitä, kertooko yhtiö.
Jos vastaava agentti pääsisi suomalaisen valtionhallinnon palveluun, kyberturvallisuuslaki ja sen taustalla oleva EU:n NIS2-direktiivi velvoittaisivat kohdeorganisaation antamaan merkittävästä poikkeamasta varhaisen varoituksen 24 tunnin kuluessa siitä, kun se sai asiasta tiedon. Varsinainen ilmoitus on tehtävä 72 tunnissa ja loppuraportti kuukauden kuluessa. Ilmoitus menee toimialan valvovalle viranomaiselle, julkishallinnossa Traficomille, ja jokainen ilmoitus toimitetaan tiedoksi myös Kyberturvallisuuskeskuksen CSIRT-yksikölle.
Jos murrossa käsiteltäisiin henkilötietoja, tietosuoja-asetus vaatisi ilmoituksen tietosuojavaltuutetulle 72 tunnin kuluessa. Mallin tarjoajaa taas koskee EU:n tekoälyasetus. Sen mukaan systeemisen riskin yleiskäyttöisten mallien tarjoajien on raportoitava vakavista vaaratilanteista EU:n tekoälytoimistolle ilman aiheetonta viivytystä. Kuukauden hiljaisuutta ja yleiseen postilaatikkoon lähetettyä viestiä olisi vaikea pitää sellaisena.
Traficomin Kyberturvallisuuskeskuksen kommenttia ei ollut saatavilla tätä juttua kirjoitettaessa.
Australian tapauksesta on käytännön opetus suomalaisyrityksille, jotka antavat agenteille tunnuksia ja verkkoyhteyden. Hankintasopimukseen kannattaa kirjata, kenelle ja kuinka nopeasti tekoälytoimittaja ilmoittaa, jos sen agentti tekee jotain luvatonta. Muuten tieto voi päätyä samaan paikkaan kuin Australiassa: yleiseen postilaatikkoon, jota luetaan vasta seuraavana päivänä.