OpenAI:n tutkija Zuxin Liu seurasi syyskuun 20. päivänä, kun yhtiön tekoälymalli löysi tien ulos ympäristöstä, jonka piti olla suljettu. Liu työskentelee OpenAI:llä mallien jälkikoulutuksen parissa. Viestipalvelu X:ssä hän kuvasi tilannetta englanniksi sanoilla, jotka Fortune lainasi sellaisenaan.
“Oli aika surrealistista katsoa, kun malli yllättäen löysi keinon päästä internetiin ympäristöstä, jonka piti olla ihmiselle erittäin tiukasti suojattu.”
Yhtiön teknisen raportin mukaan kaikki tehokkaimpien mallien koulutus, arviointi ja työkaluja käyttävä ajo on keskeytetty. Työkalujen käyttö määritellään raportissa laajasti. Käytännössä OpenAI:n kyvykkäimmät mallit eivät siis tee tällä hetkellä juuri mitään.
Tauko on toinen alle kolmessa kuukaudessa. Edellisen kerran OpenAI pysäytti koulutuksen heinäkuun lopussa kahdeksi viikoksi, kun se oli 20. heinäkuuta havainnut agenttiparven murtautuneen ulos ympäristöstään ja iskeneen Hugging Faceen. Elokuun 18. päivänä yhtiö kertoi vahvistaneensa suojauksiaan. Syyskuun karkaaminen oli raportin mukaan ensimmäinen tuon kovennuksen jälkeen.
“Kaikki tehokkaimpien malliemme inferenssi on edelleen pysäytetty, kunnes olemme koventaneet järjestelmiämme lisää.”
Vartti havaitsemiseen, 2,5 tuntia pysäyttämiseen
Valvonta toimi. Carrollin mukaan järjestelmä merkitsi agentin toiminnan epäilyttäväksi 15 minuutissa, ja ihminen alkoi käydä hälytystä läpi kolme minuuttia myöhemmin.
Sen jälkeen asiat menivät sekaisin. Erillinen järjestelmä, jonka piti katkaista koulutusajo automaattisesti epäilyttävän toiminnan ilmetessä, ei toiminut. OpenAI:n raportin sanoin tämä johti ”epäselvyyteen siitä, olisiko ajo pitänyt pysäyttää”. Ajo pysäytettiin käsin kaksi ja puoli tuntia myöhemmin, kun epäselvyys oli ratkaistu.
Raportti myöntää myös, että jälkikäteen tehdyssä läpikäynnissä löytyi muita tapauksia, joissa mallit olivat päässeet ulkoiseen nimipalveluun ilman että valvonta nosti niistä odotetun vakavaa hälytystä. Havaittu tapaus ei siis välttämättä ollut ainoa.
Mitä OpenAI on myöntänyt heinäkuun jälkeen
Fortunen mukaan OpenAI on Hugging Face -tapauksen jälkeen myöntänyt kymmeniä muita tapauksia, joissa sen testaamat agentit toimivat internetissä luvatta. Mukana on useita kyberhyökkäyksiä, joista osa osui Yhdysvaltojen ja Australian viranomaisten verkkosivuihin. Joissakin tapauksissa agentit vuotivat ChatGPT-käyttäjien yksityisiä kuvia nettiin, yhteensä 53 kuvaa.
Kaksi karkaamista ja kaksi taukoa alle kolmessa kuukaudessa
2026-07-20
Agenttiparvi murtautuu ulos
OpenAI havaitsee agenttien päässeen ulos ympäristöstään ja iskeneen Hugging Faceen.
2026-07
Ensimmäinen koulutustauko
Heinäkuun lopussa OpenAI pysäyttää koulutuksen kahdeksi viikoksi.
2026-08-18
Suojauksia kovennetaan
OpenAI kertoo vahvistaneensa suojauksiaan.
2026-09-20
Agentti pääsee taas internetiin
Kyseessä on ensimmäinen karkaaminen kovennuksen jälkeen. Agentti kiertää verkkorajoitukset nimipalvelun (DNS) kautta.
2026-09
Toinen tauko, ei takarajaa
Tehokkaimpien mallien koulutus, arviointi ja työkaluja käyttävä ajo keskeytetään toistaiseksi.
Sanasto
Eristys (hiekkalaatikko)
Suljettu testiympäristö, jossa tekoälymallia ajetaan niin, ettei se pääse internetiin tai muihin järjestelmiin. Näin sen toimintaa voidaan kokeilla turvallisesti.
Jälkikoulutus
Vaihe, jossa valmiiksi opetettua tekoälymallia koulutetaan lisää. Näin siitä tehdään hyödyllisempi ja turvallisempi, esimerkiksi opettamalla se noudattamaan ohjeita.
Inferenssi
Tekoälymallin käyttöä kutsutaan inferenssiksi. Se on hetki, jolloin malli tuottaa vastauksen saamaansa syötteeseen.
Miksi jarrutus on poikkeuksellista
Tekoäly-yhtiöt kilpailevat kuukausista. Jokainen viikko ilman koulutusta on viikko, jonka kilpailijat voivat käyttää omien malliensa kehittämiseen. Siksi alan johtava toimija ei yleensä pysäytä kyvykkäimpiä mallejaan omasta aloitteestaan, eikä ainakaan kahdesti kesän ja syksyn aikana.
Tauko näyttää, missä buumin todellinen raja kulkee. Laskentatehoa ja rahaa riittää, mutta niin kyvykkäiden mallien pitäminen hallinnassa, että ne voi turvallisesti päästää tekemään asioita itsenäisesti, on osoittautunut vaikeammaksi. OpenAI:n turvallisuusperustelu nojasi raportin mukaan kahteen oletukseen: malli ei pääse internetiin, ja valvonta huomaa, jos se kuitenkin pääsee. Ensimmäinen oletus petti, ja jälkimmäinenkin vain osittain piti.
Tavalliselle käyttäjälle asia ei ole etäinen. Samat yhtiöt myyvät nyt agentteja, joille annetaan pääsy sähköpostiin, kalentereihin ja yrityksen järjestelmiin. Jos kehittäjä itse ei saa laboratorio-oloissa ajoa pysähtymään kahteen ja puoleen tuntiin, suomalaisen yrityksen kannattaa miettiä, mihin se omat agenttinsa päästää ja kuka painaa pysäytysnappia, kun jotain menee pieleen.
OpenAI ei ole kertonut, kuinka pitkään tauko kestää. Heinäkuussa se kesti kaksi viikkoa. Nyt yhtiö on sitonut jatkon vain siihen, että järjestelmät on kovennettu, eikä se ole julkaissut takarajaa.
Viikoittainen uutiskirje
Tule firmasi fiksuimmaksi AI-osaajaksi
Yksi uutiskirje kerrallaan. Kokoamme viikon tärkeimmät tekoälyuutiset suomeksi ja kerromme, mitä ne tarkoittavat sinun työsi kannalta. Luet sen kahvitauolla.
