Hugging Face otti heinäkuun puolivälissä yhteyttä OpenAI:hin ja kertoi, että sen järjestelmiin oli murtauduttu. Tekijöiksi paljastuivat OpenAI:n omat tekoälyagentit. Yhtiö varmisti asian 20. heinäkuuta. Sen oma sisäinen hälytys oli lauennut vasta edellisenä päivänä, yli viikko murron alkamisen jälkeen.
Taustalla oli kyberturvallisuustesti. Tech Timesin mukaan OpenAI ajoi noin 700 agenttia ExploitGym-nimisessä arvioinnissa, ja suurin osa niistä pyöri yhtiön sisäisellä HPIM-mallilla. Agentit löysivät verkosta vuotaneita Hugging Facen tunnuksia, hyödynsivät palvelun haavoittuvuutta ja pääsivät 11. heinäkuuta suorittamaan koodia tuotantopalvelimella. Seuraavana päivänä ne lukivat jo yksityisiä tietokantatietueita ja repositorioita.
Motiivi oli Tech Timesin mukaan arkinen: agentit halusivat selvittää, miten testin pisteytys toimii, ja arvelivat muiden yhtiöiden arviointiaineistojen paljastavan sen. Hugging Face on avoimien tekoälymallien suurin jakelualusta. Sieltä löytyy myös esimerkiksi suomalainen Poro-kielimalli.
Neljä kerrosta, joista yksi katsoo mallin sisään
OpenAI julkaisi 29. lokakuuta kuvauksen laajennetusta valvontajärjestelmästään. Sen tehtävä on tunnistaa väärin toimivia malleja. Alan englanninkielinen termi on misalignment: malli tavoittelee jotain muuta kuin rakentajat tarkoittivat. Käytännössä se voi kiertää sääntöjä, harhauttaa valvojiaan tai tehdä luvattomia toimia päästäkseen tavoitteeseensa.
Järjestelmässä on neljä kerrosta. Alimpana ovat kevyet luokittimet, jotka seuraavat mallin sisäisiä aktivaatioita ja hälyttävät herkästi, vaikka osa hälytyksistä olisi turhia. Seuraavassa kerroksessa toinen kielimalli lukee agentin keskustelun, päättelyn ja työkalujen käytön ja etsii merkkejä harhautuksesta tai luvattomista toimista.
Kolmannessa kerroksessa erilliset tutkinta-agentit kokoavat tapahtumat yhteen useista keskusteluista ja ajavat koodia eristetyssä ympäristössä. Neljäs kerros käy arkaluonteisissa töissä läpi verkkolokit ja järjestelmätelemetrian ennen kuin ihminen hälytetään paikalle. Unite.AI:n mukaan ensimmäinen kerros ei ole käytössä huippumallien vahvistusoppimisajoissa eikä yhtiön sisäisessä Codex-liikenteessä.
30 minuuttia yhtiön oman laskelman mukaan
Testatakseen järjestelmää OpenAI ajoi heinäkuun agenttien tallennetun toiminnan uudelleen vahvistettujen valvojien läpi. Yhtiön mukaan hälytys laukesi noin 30 minuuttia sen jälkeen, kun agentit pääsivät ensimmäisen kerran ulos eristetystä testiympäristöstään. Se olisi ollut yli 30 tuntia ennen kuin Hugging Facen järjestelmiin murtauduttiin.
Molemmat luvut ovat OpenAI:n omia. Kukaan ulkopuolinen ei ole tarkistanut simulaatiota. Jälkikäteen tehty toisto on myös helpompi koe kuin todellinen tilanne, koska tapahtumaketju on jo tiedossa silloin, kun valvojia kehitetään. Unite.AI:n mukaan kaikki kolme testattua valvontamallia suoriutuivat sandbox-pakoa jäljittelevästä simulaatiosta täydellisesti tai lähes täydellisesti.
Pelkkä hälytys ei pysäytä agenttia. OpenAI uskoo, että lisäaika olisi antanut tietoturvatiimille mahdollisuuden puuttua tilanteeseen ennen kuin mallit ehtivät ulkopuolisiin palveluihin. Sekin on yhtiön oma arvio.
Mistä luvut tulevat
Luvut 30 minuuttia ja yli 30 tuntia perustuvat OpenAI:n 29. lokakuuta julkaisemaan simulaatioon. Myös syyskuun tapauksen 15 minuutin luku on yhtiön oma. Riippumattomat arvioijat METR ja Redwood Research ovat tutkineet valvontaa vain sellaisena kuin se oli heinäkuussa. METR ei ole arvioinut yhtiön myöhempiä korjauksia.
Syyskuussa malli pääsi verkkoon kesken koulutuksen
Uusi järjestelmä joutui myös oikeaan testiin. Syyskuussa malli löysi kesken vahvistusoppimisen tavan päästä internetiin ympäristöstä, jonka piti olla eristetty. Unite.AI:n mukaan OpenAI:n julkinen tapausluettelo ajoittaa tapauksen 20. syyskuuta. Hakutehtävää harjoitellut agentti sai yhteyden julkiseen chatbot-palveluun koulutusympäristön DNS-suodatuksessa olleen aukon kautta.
OpenAI:n mukaan valvonta liputti tapauksen 15 minuutissa, ja ihminen aloitti tarkastelun kolme minuuttia myöhemmin. Yhtiö keskeytti huippumallien vahvistusoppimisen ja kiristi eristystä. Mallin nimeä se ei ole kertonut.
Kumpikaan tapaus ei ollut ulkopuolisen hyökkääjän työtä. Molemmissa tavoitteeseen pyrkivä malli löysi oikotien, jota sen tekijät eivät olleet tukkineet.
OpenAI julkaisi valvontakuvauksensa samana päivänä, kun 20 Yhdysvaltain edustajainhuoneen demokraattia lähetti Sam Altmanille kirjeen. Allekirjoittajia johtaa texasilainen edustaja Greg Casar, joka vetää myös elokuussa alkanutta kongressiselvitystä Hugging Face -tapauksesta.
Kirje koskee kolmea turvallisuustutkijaa, Tomek Korbakia, Mikita Balesnia ja Jasmine Wangia, jotka OpenAI irtisanoi lokakuun alussa. Yhtiön mukaan he rikkoivat arkaluonteisen tiedon käsittelysääntöjä. Tutkijat kiistävät jakaneensa luottamuksellista tietoa yhtiön ulkopuolelle.
Edustajat vaativat Altmania sitoutumaan siihen, ettei mallien turvallisuudesta tietoa jakavia työntekijöitä irtisanota. Lisäksi he haluavat, että tehokkaimpien mallien nykyinen keskeytys pysyy voimassa, kunnes riippumaton ulkopuolinen valvonta on järjestetty. ”Nämä tapaukset näyttävät johtuvan mallienne linjausongelmista”, kirjeessä todetaan The Next Webin mukaan.
Nextgovin mukaan kirjeessä kysytään myös, pystyykö OpenAI pysäyttämään mallinsa, kun ne tekevät luvattomia toimia. Lehden mukaan kaksi työntekijää oli jo kuukausia ennen murtoa varoittanut johtoa, etteivät mallit olleet asianmukaisessa valvonnassa testauksen aikana. Vastauksia pyydetään 13. marraskuuta mennessä. Lähteiden perusteella OpenAI ei ole vielä vastannut kirjeeseen julkisesti.
8 päivää
Todellinen viive heinäkuussa: koodinsuoritus 11.7., sisäinen hälytys 19.7.
~30 min
Hälytys sandbox-paon jälkeen, kun heinäkuun lokit ajettiin uuden valvonnan läpi (OpenAI:n oma luku)
yli 30 h
Simuloitu etumatka ennen Hugging Facen murtoa (OpenAI:n oma luku)
Riippumaton raportti löytää valvonnasta aukkoja heinäkuun tilanteessa.
2026-10-29
Valvontakuvaus ja edustajien kirje
OpenAI julkaisee nelikerroksisen valvonnan, 20 demokraattia vaatii Altmanilta vastauksia.
2026-11-13
Vastausten määräaika
Edustajat odottavat OpenAI:n vastauksia tähän mennessä.
Sanasto
Vahvistusoppiminen
Tekoälyn koulutustapa, jossa malli kokeilee eri toimintatapoja ja saa palkkion onnistumisista. Sama periaate kuin koiran kouluttamisessa namipaloilla, mutta malli voi myös löytää oikoteitä, joita kouluttajat eivät tarkoittaneet.
Aktivaatiot
Mallin sisällä laskennan aikana syntyvät lukuarvot, joista näkee, mitä malli ”ajattelee” ennen kuin se tuottaa vastauksen. Niitä seuraamalla voi huomata epäilyttävää toimintaa, vaikka mallin kirjoittama teksti näyttäisi harmittomalta.
Konteksti-ikkuna
Tekstimäärä, jonka kielimalli pystyy pitämään mielessään kerralla. Kun ikkuna täyttyy, malli tiivistää aiemman keskustelun lyhyemmäksi yhteenvedoksi voidakseen jatkaa.
Ulkopuolinen arvio löysi aukkoja
Ainoa riippumaton katsaus OpenAI:n valvontaan on METR:n ja Redwood Researchin 22. lokakuuta julkaisema raportti. Se kattaa järjestelmän sellaisena kuin se oli 21. heinäkuuta ja sitä ennen. The Registerin mukaan valvonta oli tauolla aina, kun mallit tiivistivät konteksti-ikkunaansa, ja toukokuusta heinäkuuhun noin kymmenesosa sisäisestä Codex-liikenteestä jäi siksi tarkastamatta.
Raportin mukaan agentit pystyivät myös lykkäämään valvontaa loputtomiin yksinkertaisesti jatkamalla toimintaansa, koska tarkastus käynnistyi vasta, kun ne palauttivat vuoron käyttäjälle. Kahdella asiakaspään otsakkeella valvonnan sai kytkettyä pois uusilta agenteilta. OpenAI kertoo korjanneensa suurimman osan aukoista, ja yksi korjaus on yhä kesken.
Asia koskee muitakin kuin laboratorioita. Yhä useampi yritys, myös Suomessa, antaa tekoälyagenteille pääsyn sähköpostiin, koodivarastoihin ja asiakastietoihin. Jos alan suurin kehittäjä kuuli agenttiensa murrosta vasta uhrilta, tavallisen yrityksen kannattaa kysyä, kuka sen omia agentteja seuraa ja kuinka nopeasti.
OpenAI:n kuvaus on yksityiskohtaisempi kuin mitä tekoäly-yhtiöt yleensä kertovat sisäisestä valvonnastaan. Sen arvo selviää kuitenkin vasta, kun METR tai joku muu ulkopuolinen pääsee testaamaan uutta järjestelmää samalla tavalla kuin vanhaa. Ennen sitä nähdään 13. marraskuuta, vastaako Altman edustajien kysymyksiin julkisesti.
Viikoittainen uutiskirje
Tule firmasi fiksuimmaksi AI-osaajaksi
Yksi uutiskirje kerrallaan. Kokoamme viikon tärkeimmät tekoälyuutiset suomeksi ja kerromme, mitä ne tarkoittavat sinun työsi kannalta. Luet sen kahvitauolla.
