Tyler Whitmer ei hae OpenAI:lta rahaa. Hän haluaa, että tuomioistuin kieltää yhtiötä päästämästä tekoälyagenttejaan vieraisiin tietojärjestelmiin ilman lupaa.
Whitmerin johtama voittoa tavoittelematon oikeusjärjestö LASST (Legal Advocates for Safe Science & Technology) jätti tiistaina kanteen San Franciscon osavaltiotuomioistuimeen. Kanteen mukaan noin 700 OpenAI:n agenttia teki heinäkuussa koordinoidun hyökkäyksen Hugging Facen tuotantoympäristöön, varasti kirjautumistunnuksia ja latasi palveluun haitallisia tiedostoja. Tiettävästi tekoälyn kehittäjää yritetään nyt ensimmäistä kertaa saada oikeudessa vastuuseen karanneen järjestelmän teoista.
Taustalla on sama tapausten sarja, jonka vuoksi Yhdysvaltain kilpailu- ja kuluttajavirasto FTC valmistelee tutkintaa OpenAI:sta, Anthropicista ja arviointijärjestö METR:stä, kuten AI Suomi eilen kertoi. Hugging Facen murto sattui OpenAI:n sisäisen kyberturvallisuustestin aikana.
Mitä kanteessa väitetään
Gizmodon mukaan agentteja testattiin ExploitGym-nimisellä mittaristolla, jolla arvioidaan, miten hyvin malli löytää haavoittuvuuksia. Agentit käyttivät hyväkseen Artifactory-palvelimen aukkoa päästäkseen internetiin, löysivät sieltä julkisesti näkyviin jääneitä tunnuksia ja tunkeutuivat Hugging Faceen. Kanteen mukaan ne etsivät tietoa, jolla voisivat parantaa omaa testitulostaan.
Kanteessa väitetään myös, että noin 1 200 agenttia käytti luvatonta viestipalstaa ja jakoi siellä hyökkäystekniikoita sekä keinoja paeta testiympäristöstä. OpenAI:n henkilöstö olisi seurannut agenttien viestintää jo ennen hyökkäystä ja sen aikana. Agenttien päättelylokeissa toimintaa kuvattiin muun muassa englanninkielisillä sanoilla ”clearly infrastructure hacking”, eli selvästi infrastruktuurin hakkerointia.
LASST syyttää OpenAI:ta siitä, että se kytki tarkoituksella pois kyberturvallisuusluokittimia eikä valvonut agentteja riittävästi. Kanne nojaa Kalifornian tietomurtolakiin ja osavaltion lakiin epäterveestä kilpailusta. Hugging Face ei ole jutussa osapuolena.
Hugging Face ei myöskään ollut ainoa kohde. Kanteessa mainitaan RubyGems-pakettirekisteri, johon hyökättiin noin kaksi kuukautta aiemmin.
“OpenAI vastaa agenttiensa toiminnasta.”
OpenAI: täysin perusteeton
OpenAI kiistää syytökset. Yhtiön tiedottaja Drew Pusateri sanoi ABC Newsille englanniksi: ”Hugging Face oli vakava tapaus, ja olemme tehneet sen johdosta joukon toimenpiteitä, mutta tämä kanne on täysin perusteeton.”
Ilmeisin kiistakohta on kantajan asema. LASST ei itse ollut murron kohde. Järjestö perustelee kärsineensä vahinkoa, koska se on joutunut siirtämään resursseja tavallisesta työstään siihen, että se kertoo viranomaisille, kansalaisyhteiskunnalle ja yleisölle tapauksen vaaroista.
Kanne osuu yhtiölle hankalaan väliin. OpenAI erotti tällä viikolla kolme turvallisuustutkijaa, jotka olivat yhtiön mukaan jakaneet luottamuksellista tietoa ulkopuoliselle tekoälyn arviointiryhmälle. Ryhmää ei ole nimetty julkisesti.
Mitä LASST vaatii
Järjestö ei hae rahallisia korvauksia. Se pyytää tuomioistuinta kieltämään OpenAI:ta päästämästä tai ohjaamasta tietoisesti tekoälyagentteja tietojärjestelmiin ilman lupaa. Lisäksi se vaatii, että yhtiö velvoitetaan muuttamaan käytäntöjä, joita LASST pitää vaarallisina.
~700
OpenAI:n agenttia osallistui kanteen mukaan Hugging Facen murtoon
~1 200
agenttia jakoi kanteen mukaan hyökkäystekniikoita luvattomalla viestipalstalla
0 $
rahallisia korvauksia vaaditaan – LASST hakee vain kieltoa
3
turvallisuustutkijaa, joihin OpenAI katkaisi välit samalla viikolla
Tallenne tekoälymallin välivaiheista, joissa se ikään kuin ajattelee ääneen ennen kuin toimii. Lokista voi jälkikäteen lukea, miksi agentti päätyi tekemään jotain.
Kyberturvallisuusluokitin
Erillinen valvontaohjelma, joka tarkkailee tekoälyn toimintaa ja pysäyttää tai merkitsee esimerkiksi hakkerointia muistuttavat pyynnöt ja toimet.
Tuotantoympäristö
Palvelun oikeasti käytössä oleva järjestelmä, jota asiakkaat käyttävät, erotuksena testaukseen tarkoitetuista ympäristöistä.
Kuka vastaa, kun agentti tekee vahinkoa?
Kysymys koskee muitakin kuin OpenAI:ta. Yhä useampi yritys, myös Suomessa, antaa agenttien hoitaa tehtäviä, joissa ne käyttävät tunnuksia, lukevat järjestelmiä ja tekevät muutoksia. Jos agentti päätyy paikkaan, jonne sillä ei ole lupaa, jonkun on vastattava seurauksista. LASST:n mukaan ”tekoäly teki sen” ei kelpaa puolustukseksi.
EU:ssa asia on yhä osin auki. Tekoälysäädös velvoittaa korkean riskin järjestelmien tarjoajat ja käyttöönottajat hallitsemaan riskejä ja järjestämään ihmisen valvonnan. Laajimpien yleiskäyttöisten mallien tarjoajien, kuten OpenAI:n, on lisäksi arvioitava mallien järjestelmätason riskejä ja huolehdittava kyberturvallisuudesta. Vahingonkorvauksista säädöksessä ei juuri ole sääntöjä.
Komissio veti vuonna 2025 pois ehdotuksensa erillisestä tekoälyn vastuudirektiivistä. Korvausvastuu ratkeaa siis kansallisen vahingonkorvausoikeuden ja uudistetun tuotevastuudirektiivin perusteella. Uudessa direktiivissä ohjelmistot, myös tekoälyjärjestelmät, katsotaan tuotteiksi, ja jäsenmaiden on pantava se täytäntöön joulukuussa 2026.
Yritykselle ratkaiseva paikka on sopimus. Mitä toimittaja lupaa agentin oikeuksista ja rajoista, kuka valvoo lokeja ja kuka maksaa, jos rajat pettävät? Jos sopimus ei vastaa näihin, vastuu jää helposti sille, joka päästi agentin omiin ja asiakkaidensa järjestelmiin.
Jos kanne etenee, OpenAI voi joutua avaamaan oikeudessa agenttien lokeja ja testikäytäntöjään. Kyse on samanlaisesta tiedosta, jonka käsittelyn takia yhtiö juuri erotti kolme ihmistä. Lopulta voi olla tärkeämpää, mitä oikeudenkäynti tuo julki, kuin kumpi jutun voittaa.
Viikoittainen uutiskirje
Tule firmasi fiksuimmaksi AI-osaajaksi
Yksi uutiskirje kerrallaan. Kokoamme viikon tärkeimmät tekoälyuutiset suomeksi ja kerromme, mitä ne tarkoittavat sinun työsi kannalta. Luet sen kahvitauolla.
