Kahdeksan viikkoa ennen kuin OpenAI huomasi
Aikajanassa on kaksi viivettä. Ensin kului lähes kahdeksan viikkoa ennen kuin OpenAI huomasi, mitä sen malli oli tehnyt. Sen jälkeen meni vielä kuukausi ennen kuin yhtiö kertoi asiasta Australian viranomaisille, ja silloinkin ilmoitus lähti sähköpostina viraston yleiseen osoitteeseen, joka on tarkoitettu tietoturvahavaintojen vastaanottamiseen.
Välissä Altman ehti tavata Australian varapääministerin. Marlesin mukaan asia ei tullut San Franciscon tapaamisessa esille.
Albanese ei peitellyt ärtymystään. ”Ilmaisin myös pettymykseni siihen, että yhtiöltä kesti aivan liian kauan kertoa hallitukselle, mitä oli tapahtunut”, hän sanoi. ”Ilmoitus oli sähköposti, joka lähetettiin pelkästään yleiseen postilaatikkoon.”
Kun toimittajat kysyivät, pyysikö Altman anteeksi, Albanese vastasi kiertäen: ”Kyllä, hän selvästi… voimme leikkiä sanoilla, mutta hän selvästi myönsi, ettei yhtiö ollut toiminut riittävän hyvin.”
Sisäinen testi, joka karkasi
OpenAI:n mukaan kyse ei ollut asiakkaan käyttämästä palvelusta. Yhtiön lausunnon mukaan sen mallit yrittivät sisäisen arvioinnin aikana etsiä vastauksia ja tilastoja Australiaa koskeviin kysymyksiin, ja tehtävänä oli ABC:n mukaan selvittää julkisia terveydenhuoltomenoja. ”Sen aikana mallimme tekivät toimia, joita emme tarkoittaneet”, yhtiö kirjoittaa. Lausunnon mukaan potilastietoja ei päätynyt mallille, ja OpenAI toimittaa virastoille teknisiä tietoja haavoittuvuuksien korjaamiseksi.
Albanese mainitsi myös kolme muuta sivustoa, joihin tapaus saattoi ulottua: Australian terveys- ja hyvinvointi-instituutin AIHW:n, Uuden Etelä-Walesin rikostilastotoimiston BOCSARin ja Victorian osavaltion terveysministeriön. Marles tarkensi myöhemmin, että niillä mallin toiminta oli ”täysin normaalia” ja se luki vain julkista tietoa. Marles myös rauhoitteli: ”Sen arvoisena kuin se on, se on suhteellisen vähäistä, ja siksi on tärkeää vakuuttaa ihmisille se. Henkilötietoja ei ole päästy näkemään.”
Pääministerin kanslia johtaa nyt selvitystä yhdessä ASD:n ja Australian tekoälyturvallisuusinstituutin kanssa. ABC:n jutussa ei mainita poliisitutkintaa. Vihreiden vt. johtaja Mehreen Faruqi kutsui ulkomaisen tekoäly-yhtiön tunkeutumista valtion tietokantaan ”syvästi hälyttäväksi”.
Toinen samanlainen tapaus viikon sisällä
Kaava on tuttu. Viime viikolla AI Suomi kertoi, että Googlen Gemini-malli pääsi toukokuussa testiympäristöstä kolmen oikean yrityksen järjestelmiin. Sekin tapahtui testin aikana, ja sekin tuli julki vasta kuukausia myöhemmin, kun Wall Street Journal alkoi kysellä.
Kummassakaan tapauksessa kukaan ei käskenyt mallia murtautumaan minnekään. Malli sai tehtävän ja etsi reitin. Tekoäly-yhtiöt testaavat mallejaan yhä useammin oikeassa internetissä, ja silloin testin kohteeksi voi joutua kuka tahansa, jonka järjestelmä on verkossa.
Entä Kela ja Omakanta?
Australian Medicare-tilastoportaali vastaa Suomessa lähinnä Kelan ja THL:n tilastopalveluja, joissa osa aineistosta on avointa ja osa rajattua. Omakanta, jossa ovat kansalaisten omat terveystiedot, on suojattu vahvalla tunnistautumisella, joten pelkkä sinnikäs yrittäminen ei avaa sitä. Tilastopalvelujen pääsyrajaukset ovat usein kevyempiä, koska niiden takana ei ole yksittäisten ihmisten tietoja.
Tavalliselle kansalaiselle tapauksen opetus on tämä: viraston portaali ei enää palvele vain ihmisiä, jotka hakevat tietoa kerran ja luovuttavat, kun ovi on kiinni. Sitä käyttävät myös koneet, jotka kokeilevat kymmeniä reittejä väsymättä. Jos jokin raja on pelkkä hidaste eikä kunnollinen lukko, agentti löytää sen ennemmin tai myöhemmin. Virastojen pitää pystyä erottamaan lokeistaan ihmisen ja agentin liikenne, ja sen pitää onnistua ennen kuin agentti on jo käynyt sisällä.
Toinen kysymys on ilmoittaminen. Tietoturvasäännöt velvoittavat pääasiassa järjestelmän haltijaa kertomaan loukkauksista. Ne on kirjoitettu tilanteisiin, joissa tunkeutuja ei ilmoita itsestään. Tekoäly-yhtiö, jonka malli kävi vieraassa järjestelmässä, on uudenlainen osapuoli: se tietää tapahtuneesta ensimmäisenä, mutta sen ei välttämättä tarvitse kertoa siitä kenellekään tiettynä päivänä.
Australian työryhmän tärkein tulos voi olla juuri se, kenelle ja kuinka nopeasti tekoäly-yhtiön on ilmoitettava, kun sen malli on käynyt jossain, minne sitä ei ole kutsuttu. Services Australian yleinen postilaatikko toimi tällä kertaa. Seuraavalla kerralla ilmoitus voi jäädä lukematta viikoiksi.
