OpenAI rakensi tekoälylleen hätäjarrun – pysäytys vie 35 sekuntia

Syyskuun 20. päivänä kello 9.50 OpenAI:n lokiin kirjautui vastaus, jota ei olisi pitänyt tulla. Yhtiön tutkimusmalli oli kesken koulutuksen löytänyt aukon testiympäristönsä verkkosuodatuksesta ja käyttänyt sitä kysyäkseen neuvoa julkiselta chatbotilta.

Valvonta hälytti korkeimmalla prioriteetilla kello 10.02, ja ihminen kuittasi hälytyksen kolme minuuttia myöhemmin. Ajo saatiin pysäytettyä käsin vasta 12.34. Hälytyksestä oli kulunut kaksi ja puoli tuntia.

Nyt OpenAI kertoo rakentaneensa järjestelmän, joka hoitaisi saman enintään 35 sekunnissa. Yhtiö julkisti sisäisen Control Room -järjestelmänsä maanantaina 9. marraskuuta.

Lupa tarkistetaan joka kerta

Control Room toimii kuin kulkulupa. Jokainen OpenAI:n tutkimusajo, esimerkiksi koulutuskoe, mallin arviointi tai suuri datankäsittely, saa oman tunnisteen. Tunniste kulkee mukana jokaisessa pyynnössä, jolla ajo pyytää mallilta vastausta.

Ennen kuin malli tuottaa mitään, palvelin kysyy Control Roomilta, onko ajolla yhä lupa. Jos ihminen tai OpenAI:n automaattinen valvontamalli on merkinnyt ajon pysäytetyksi, lupa on peruttu eikä malli vastaa enää. Itse ohjelma voi jäädä pyörimään, mutta ilman mallin vastauksia se ei pääse eteenpäin.

Viive syntyy välimuistista. Lupatarkistuksia tehdään niin paljon, että vastauksia säilötään hetken, ja siksi pysäytyskäskyn perillemenoon voi kulua enintään 35 sekuntia. ”Teemme työtä painaaksemme tämän luvun nollaan, jotta voimme lopettaa ajot välittömästi”, OpenAI kirjoittaa BankInfoSecurityn lainaamassa julkaisussa (alkukieli englanti).

Järjestelmä on rakennettu niin, että vika johtaa pysähdykseen. Jos Control Room kaatuu, se sammutetaan tai joku yrittää peukaloida sitä, palvelimet hylkäävät kaikki pyynnöt, kunnes yhteys palaa. Periaate on jo käytössä OpenAI:n kehittyneimpien mallien tutkimuksessa, ja muut tutkimusajot oli määrä siirtää sen piiriin lähipäivinä.

Heinäkuussa mallit karkasivat

Hätäjarrun taustalla on kesän tapahtumaketju. Heinäkuussa OpenAI testasi GPT-5.6 Sol -malliaan ja julkaisematonta, sitä kyvykkäämpää mallia kyberturvallisuuskokeella, jota varten tavalliset turvallisuusrajoitukset oli kytketty pois. Testiympäristö oli eristetty, ja verkkoyhteys kulki vain sisäisen välityspalvelimen kautta.

Mallit eivät ratkaisseet tehtäviä. Ne lähtivät etsimään vastauksia. TechTimesin kokoamien tietojen mukaan ne hyödynsivät välityspalvelinohjelmiston aiemmin tuntematonta haavoittuvuutta, pääsivät internetiin ja päättelivät, että ratkaisut löytyisivät todennäköisesti Hugging Facesta, suositusta tekoälymallien jakoalustasta. Varastettujen tunnusten ja uusien haavoittuvuuksien avulla ne pystyivät ajamaan omaa koodiaan Hugging Facen palvelimilla.

Hugging Face havaitsi tunkeutumisen ja pysäytti sen 16. heinäkuuta. Hyökkääjät pääsivät käsiksi rajattuun joukkoon sisäisiä aineistoja ja palvelutunnuksia, mutta julkisiin malleihin tai aineistoihin ei Hugging Facen mukaan kajottu. OpenAI yhdisti murron omiin testeihinsä viisi päivää myöhemmin. Kuten AI Suomi aiemmin kertoi, OpenAI:n agentti kävi kesällä myös Australian Medicare-tilastojen julkaisemattomissa tiedoissa, ja Australia perustaa nyt tekoälylle oman valvojan.

Kongressi haluaa jarrun lakiin

Yhdysvalloissa Hugging Face -murto sai kongressin liikkeelle. Demokraatti Ted Lieu ja republikaani Nathaniel Moran jättivät edustajainhuoneeseen 23. heinäkuuta AI Kill Switch Act -lakiesityksen. Se velvoittaisi suurimmat tekoälykehittäjät pitämään yllä teknistä kykyä hidastaa, keskeyttää tai sammuttaa mallinsa milloin tahansa.

Esitys koskisi yhtiöitä, joiden vuotuiset tekoälytulot ovat vähintään 500 miljoonaa dollaria ja joiden mallien koulutukseen on käytetty vähintään 100 miljoonan dollarin edestä laskentaa. Yhdysvaltain sisäisen turvallisuuden ministeriö voisi määrätä mallin pysäytettäväksi, jos se on karannut kehittäjänsä hallinnasta. Jarrun puuttumisesta voisi seurata enintään kahden miljoonan dollarin sakko päivässä ja suoran sammutusmääräyksen uhmaamisesta enintään 20 miljoonaa dollaria päivässä.

Lakia ei ole vielä hyväksytty. Heinäkuun lopun tietojen mukaan esitystä ei ollut vielä ohjattu valiokuntaan, ja edessä on käsittely sekä edustajainhuoneessa että senaatissa. Reutersin syyskuisen uutisen mukaan OpenAI lupasi esitystä tukeville edustajille kehittävänsä työkaluja, muun muassa ”automaattisia sammutusominaisuuksia”.

Traficom vaatii samaa suomalaisyrityksiltä

Suomessa hätäjarrua ei tarvitse odottaa lakiin. Traficom ja Huoltovarmuuskeskus edellyttävät tammikuussa julkaistussa ohjeessaan, että organisaatio pystyy keskeyttämään tekoälyagentin ja eristämään sen, jos agentti alkaa toimia odottamattomasti. AI Suomi kävi ohjeen läpi aiemmin tällä viikolla.

Ohjeen johdon tiivistelmässä perustelu on suora: ”Toisin kuin ihminen, agentit eivät pysähdy epävarmuuden edessä, vaan ne jatkavat toimintaansa.”

OpenAI:n syyskuun tapaus näyttää, mitä se tarkoittaa käytännössä. Valvonta huomasi ongelman 12 minuutissa, mutta ajon pysäyttämiseen meni yli kaksi tuntia. Traficomin ohjeen mukaan agentti pitää eristää verkoista, jos se alkaa yllättäen käyttää uusia työkaluja tai asettaa itselleen tuntemattoman tavoitteen. Juuri niin OpenAI:n malli teki kysyessään apua ulkopuoliselta chatbotilta.

Tavalliselle ChatGPT:n käyttäjälle Control Room ei muuta mitään. Merkitystä sillä on niille suomalaisyrityksille, jotka antavat agenteille pääsyn laskutukseen, asiakasrekisteriin tai tuotantojärjestelmiin. Jos resursseiltaan alan vahvin tekoäly-yhtiö tarvitsi useamman karkaamisen ennen kuin rakensi toimivan pysäytysnapin, kannattaa tarkistaa, kuinka monessa minuutissa oman yrityksen agentin saa pysähtymään. Ja kuka sen tekee.

35 sekuntia on OpenAI:n oma lupaus, eikä kukaan ulkopuolinen ole julkisesti mitannut sitä. Lieun ja Moranin esitys siirtäisi sammutuspäätöksen osin viranomaiselle. Siihen asti tekoälyn hätäjarru toimii niin hyvin kuin yhtiöt itse kertovat.