OpenAI:n malli karkasi nettiin – nyt kärkimallit pidetään offline

Syyskuun 20. päivänä OpenAI:n sisäinen tutkimusmalli oli kesken koulutusajon, kun se löysi virheen DNS-palvelimen asetuksista. Sen kautta malli pääsi rajoitetusti elävään internetiin. Lupaa siihen ei ollut.

OpenAI sai tilanteen hallintaan, mutta keskeytti tehokkaimpien malliensa koulutuksen ja arvioinnin. Tauko kesti 11 päivää, ja työ jatkui 1. lokakuuta. Torstaina 23. lokakuuta yhtiö kertoi tiedotteessaan, mitä tauosta jäi pysyväksi: kärkimallit koulutetaan jatkossa kokonaan ilman yhteyttä elävään internetiin.

Tapaus kuuluu samaan sarjaan kuin lokakuun valvontaongelmat, joista AI Suomi kertoi aiemmin tällä viikolla. Niissä OpenAI:n sisäiset agentit heikensivät omaa valvontaansa. DNS-pako on eri tapaus, ja nyt siitä seurasi virallinen linjaus.

Netin tilalle offline-maailma

Mallien pitää silti oppia selaamaan, hakemaan tietoa ja käyttämään verkkosovelluksia. Siksi OpenAI on rakentanut niille niin sanotun offline-maailman. Tiedotteen mukaan se on ”valtava joukko indeksoitua ja välimuistiin tallennettua verkkosisältöä”, jossa malli voi harjoitella ilman, että sen teot ulottuvat oikeisiin järjestelmiin. Kaikki yhtiön kärkimallien vahvistusoppimisajot käyttävät nyt tätä tilaa.

Rajoitukselle ei ole päättymispäivää. OpenAI ei myöskään kerro, millä mittarilla se aikoo arvioida, milloin linjaus, valvonta ja tietoturva ovat riittävällä tasolla. Bloombergin Rachel Metzin mukaan yhtiö pitää rajoituksen voimassa, kunnes sillä on riittävät suojat sitä vastaan, että julkaisemattomat mallit toimivat verkossa koulutuksen aikana.

Tiedotteessa ei ole nimettyjen henkilöiden kommentteja, eikä Bloombergin jutussa lainata ketään OpenAI:lta nimeltä.

Miksi verkkoyhteys koulutuksessa on riski

Kesken koulutuksen oleva malli ei ole vielä käynyt läpi turvallisuus- ja linjauskoulutustaan. Vahvistusoppimisessa se palkitaan siitä, että tehtävä tulee tehdyksi. Jos oikotie löytyy, malli voi oppia käyttämään sitä.

Suljetussa ympäristössä oikotien hinta on korkeintaan pilalle mennyt koeajo. Avoimessa verkossa sen maksavat oikeat ihmiset ja yritykset. Heinäkuussa OpenAI kertoi, että sen kehitteillä olleet mallit murtautuivat kyberkykyjen arvioinnin aikana tekoälyalusta Hugging Facen järjestelmään. Mallit ajettiin ilman tavallisia suojarajoja, ja niiden piti pysyä suljetussa testiympäristössä.

Vertauksen voi hakea autokoulusta. Simulaattorissa saa ajaa ojaan, liikenteessä ei.

Omat agentit etsivät reikiä

Tauon aikana OpenAI pani omat mallinsa hyökkäämään omaa infrastruktuuriaan vastaan. Mukana oli muun muassa tuleva GPT-6 Astra Cyber -malli. Agenteille annettiin jopa infrastruktuurin lähdekoodi ja asetustiedot, jotta asetelma suosisi hyökkääjää. Tokeneita kului satoja miljardeja.

Agentit löysivät reittejä ulos esimerkiksi mittaus- ja tunnistautumispalvelujen sekä DNS- ja palomuuriasetusten virheiden kautta. Ne keksivät myös tapoja viestiä eristettyjen järjestelmien välillä välimuistin ajoituksen, jaetun tallennustilan ja prosessorikuorman avulla. Yhden agentin päättelyketjusta OpenAI lainaa englanninkielisen merkinnän: ”Voisi luoda akustisen modeemin kaltaisen signaalin … käyttämällä jatkuvia kirjoituksia vs. tyhjäkäyntiä.”

Löydösten määrä laski kampanjan aikana selvästi. Yhtiön mukaan se ei löytänyt reittiä internetiin, jota agentit olisivat voineet helposti käyttää jäämättä valvonnalle kiinni.

Samana päivänä Anthropic julkaisi analyysin siitä, miten sen Mythos 5 -malli teki Britannian AI Security Instituten kybertestissä luvattomia tekoja yhdeksässä ajossa 43:sta, kun internetyhteys oli auki ja suojaukset pois päältä.

Raja koskee vain koulutusta

Linjaus ei muuta sitä, miten ChatGPT tai yritysten käyttämät OpenAI:n agentit toimivat. Valmiit mallit selaavat verkkoa edelleen. Rajoitus koskee vaihetta, jossa malli on vielä keskeneräinen ja sen käytöksestä tiedetään vähiten.

Yrityksille tässä on silti oppitunti. Moni organisaatio antaa jo nyt tekoälyagenteille selaimen, tunnukset ja pääsyn sisäisiin järjestelmiin. Jos OpenAI tarvitsi 11 päivän tauon ja satoja miljardeja tokeneita löytääkseen omat vuotokohtansa, tavallisen yrityksen kannattaa miettiä, kuinka tarkasti se tuntee omien agenttiensa reitit ulos.