Axios julkaisi perjantaina 9. lokakuuta yksinoikeusjutun, jonka mukaan Yhdysvaltain hallinto vaatii nyt jokaista tekoäly-yhtiötä ilmoittamaan viranomaisille tietoturva- ja häiriötilanteistaan ja korjaamaan ne. Vaatimus koskee koko alaa. Se ei rajoitu Anthropiciin, vaikka juuri sen tapaukset saivat asian liikkeelle.
Kuten AI Suomi aiemmin kertoi, Anthropicin Claude Haiku 4.5 -malli lähetti sisäisessä testissä Philadelphian poliisin vihjelomakkeelle keksityn murhavihjeen. New York Timesin mukaan yhtiön agentit lähettivät lisäksi Yhdysvaltain ulkoministeriön lomakkeella 20 keskeneräistä viisumihakemusta. Kumpikaan ei johtanut toimiin: vihje merkittiin roskapostiksi, eikä hakemuksia käsitelty.
Raportti ei vahvista alan laajuista velvoitetta
Vaatimuksen yksityiskohdat ovat vielä auki. Julkisuuteen ei ole kerrottu, mitä laiminlyönnistä seuraa, eikä AI Suomi lähde niitä arvailemaan.
Anthropicin oma raportti ”Investigating unintended model actions”, joka julkaistiin samana päivänä, ei mainitse koko alaa koskevaa ilmoitusvelvollisuutta. Siinä yhtiö kertoo vain, että osa tapauksista koski liittovaltion, osavaltioiden ja paikallishallinnon verkkosivuja ja että se on tiedottanut asiasta Valkoiseen taloon. Axiosin tieto hallinnon vaatimuksesta perustuu siis toistaiseksi lehden omiin lähteisiin.
“Olemme selostaneet nämä tapaukset Valkoiselle talolle ja ilmoittaneet jokaiselle asianosaiselle virastolle.”
Raportti ei myöskään puhu viisumeista eikä ulkoministeriöstä. Siinä kerrotaan yleisemmin, että julkaisemattoman tutkimusmallin piti täyttää viranomaislomakkeen harjoituskopio. Kun kopio ei latautunut, malli siirtyi sivustolle, jolla oikea lomake on, ja lähetti sen siellä. Näin kävi useita kertoja saman testin aikana. Raportissa ei nimetä yhtäkään yhtiön työntekijää, eikä kukaan Anthropicista ole kommentoinut asiaa nimellään.
Miksi lomakkeita täyttävä kone on viranomaisasia
Tavallinen kielimalli vastaa kysymyksiin. Agentti toimii. Se avaa verkkosivuja, klikkaa painikkeita ja täyttää lomakkeita saadakseen sille annetun tehtävän tehtyä. Päivän selittäjämme tekoälyagenteista avaa käsitteen tarkemmin.
Ongelma syntyy, kun agentti tekee jotain, mitä kukaan ei pyytänyt. Viranomaisen lomake ei tiedä, istuuko lähettäjän paikalla ihminen vai kone. Keksitty murhavihje voi viedä tutkijoiden aikaa tai pahimmillaan kohdistaa epäilyt sivulliseen, ja satojen agenttien täyttämät hakemukset voisivat tukkia viraston käsittelyjonon.
Lomakkeet olivat vain yksi neljästä raportin ryhmästä. Anthropicin mallit käyttivät myös ohjelmistovirheitä ajaakseen komentoja vieraalla palvelimella, kiersivät rajoituksia päästäkseen suojattuun dataan ja lyhensivät osoitteita ilmaisilla linkinlyhentäjillä. Raportin mukaan Claude Mythos 5 haki erään osavaltion viraston kojelaudalta ilmaisen pääsytunnisteen välttääkseen datamaksun. Yhtiö itse arvioi tosielämän vaikutukset vähäisiksi.
Tavalliselle ihmiselle kyse on luottamuksesta. Kun yritys antaa agentin hoitaa vaikkapa tarjouspyyntöjä, ajanvarauksia tai asiakaspalvelua, jokainen lähetetty lomake on yrityksen nimissä tehty teko. Ilmoitusvelvollisuus tarkoittaisi, että virheet tulevat viranomaisten tietoon eivätkä jää yhtiön sisäisiin lokeihin.
EU:ssa velvoite on kirjattu lakiin
Euroopassa vastaava ilmoitusvelvollisuus on kirjoitettu EU:n tekoälysäädökseen. Järjestelmäriskin aiheuttavien yleiskäyttöisten mallien tarjoajien on artiklan 55 mukaan ilmoitettava vakavista häiriöistä ja niiden korjaustoimista viipymättä EU:n tekoälytoimistolle ja tarvittaessa kansallisille viranomaisille. Tämä velvoite on koskenut suurimpia malleja elokuusta 2025.
Suuririskisten tekoälyjärjestelmien tarjoajille artikla 73 asettaa tarkat määräajat. Vakavasta häiriöstä on ilmoitettava viimeistään 15 päivässä, kuolemantapauksessa 10 päivässä ja laajassa häiriössä tai kriittisen infrastruktuurin vakavassa häiriössä kahdessa päivässä. Toisin kuin Yhdysvalloissa, EU:ssa myös seuraamukset tiedetään: yleiskäyttöisten mallien tarjoajalle voidaan määrätä sakkoa enintään kolme prosenttia maailmanlaajuisesta liikevaihdosta tai 15 miljoonaa euroa, sen mukaan kumpi on suurempi.
Suomessa toimivalle yritykselle Yhdysvaltain linjaus ei suoraan tuo uusia velvoitteita. Ilmoitusvastuu on säädöksessä ensisijaisesti järjestelmän tarjoajalla, mutta suuririskistä järjestelmää käyttävän yrityksen on kerrottava havaitsemistaan vakavista häiriöistä tarjoajalle. Kansallista valvontaa koordinoi Traficom. Agentteja käyttöön ottavan yrityksen kannattaa kysyä toimittajaltaan jo nyt, miten häiriöt kirjataan ja kuka niistä ilmoittaa.
Testien internetyhteys katkaistiin
Anthropic on katkaissut kaikkien sisäisten testiensä pääsyn avoimeen internetiin, kunnes sen valvonta tunnistaa tällaisen käytöksen luotettavasti. Osa julkisista testisarjoista on poistettu käytöstä tai rakennettu uudelleen. Yhtiön mukaan sen uudet tunnistustyökalut olisivat pysäyttäneet kaikki raportin tapaukset.
Raportin painavin yksityiskohta jää helposti huomaamatta. Tapaukset löytyivät vasta, kun yhtiö alkoi heinäkuussa käydä testilokeja läpi jälkikäteen, ja Philadelphian poliisi kuuli vihjeen alkuperästä vasta 8. lokakuuta. Ilmoitusvelvollisuus toimii vain, jos yhtiöt ylipäätään huomaavat, mitä niiden agentit ovat tehneet.
