OpenAI erotti tutkijat vuodosta kertomatta, mitä he vuotivat

Kesällä Tomek Korbak oli METR-tutkimusorganisaation tekninen yhteyshenkilö, kun OpenAI selvitti omien tekoälyagenttiensa Hugging Faceen kohdistamaa hyökkäystä. Syksyllä hän oli työtön. Korbak sekä hänen entiset kollegansa Mikita Balesni ja Jasmine Wang kertovat nyt Wall Street Journalille, ettei heille ole vieläkään kerrottu kirjallisesti, mitä luottamuksellista tietoa he olisivat käsitelleet väärin.

Kuten AI Suomi aiemmin kertoi, OpenAI erotti kolmikon samana päivänä sen jälkeen, kun yhtiön tietoturvatiimi oli löytänyt heidän henkilökohtaisista puhelimistaan Signal-keskusteluja, joissa katoavat viestit olivat päällä.

Kolme tarinaa, ei yhtään kirjallista syytöstä

WSJ:n mukaan OpenAI:n tietoturvatiimi epäili tutkijoiden kertoneen yhtiön sisäisestä malliarkkitehtuurista ulkopuoliselle turvallisuustutkijalle. Kolmikko kiistää jakaneensa luottamuksellista tietoa. Korbakin mukaan katoavat viestit ovat Piilaaksossa tavallinen tietoturvakäytäntö, eikä OpenAI:n mukaan Signal ollut erottamisen syy, vaikka se ei ollut hyväksytty viestintäväline.

Balesnin mukaan tutkijat nimesivät kuulusteluissa yhdeksi epäillyksi lähteeksi Ryan Greenblattin, joka oli tuolloin Redwood Researchin pääjohtaja tutkimuksesta. Taustalla oli The Informationin syyskuun 1. päivän juttu, jonka mukaan OpenAI:n uusi Astra-malli paljastaa päättelystään entistä vähemmän. Greenblatt kiistää vuotaneensa mitään toimittajille.

Wangin tapaus on arkisempi. OpenAI:n mukaan hän avasi toistuvasti erään johtajan sähköpostilaatikkoa. Wang kertoo saaneensa pääsyn rekrytointia varten luvan kanssa ja pyytäneensä sen poistamista, kun sitä ei enää tarvittu. IT ei poistanut sitä. Kun hän vahingossa avasi arkaluonteisen viestin, hän ilmoitti asiasta johtajalle muutamassa minuutissa.

Kirje valvojille: älkää vetäytykö kumppanuuksista

Kolmikko on kirjoittanut OpenAI:n hallituksen turvallisuuskomitealle, Safety Advisory Groupille ja Mission Advisory Councilille. Kirjeessä on kolme vaatimusta. OpenAI:n pitää pitää kiinni toimitusjohtaja Sam Altmanin 12. syyskuuta antamasta lupauksesta, että riippumattomat arvioijat saavat jatkuvan, työntekijän kaltaisen pääsyn yhtiön sisälle. Mallien päättelyn pitää pysyä valvottavana. Lisäksi yhtiön pitää kertoa selvästi, miten työntekijät saavat tehdä yhteistyötä ulkopuolisten turvallisuusjärjestöjen kanssa.

”Erottamistamme ei pidä käyttää tekosyynä vetäytyä näistä kumppanuuksista”, tutkijat kirjoittavat englanninkielisessä kirjeessään. Korbak kertoo WSJ:lle, että kollegat pelkäävät nyt puhua ulkopuolisille tai nostaa turvallisuushuolia esiin edes talon sisällä.

Auditointi löysi aukkoja, raportista puuttuu kolmannes

Pelko ulkoisen valvonnan heikkenemisestä ei ole tuulesta temmattu. METR julkaisi 22. lokakuuta yhteenvedon kolmen viikon auditoinnista, jonka sen ja Redwood Researchin työntekijät tekivät OpenAI:n tiloissa 21. heinäkuuta–11. elokuuta. He testasivat järjestelmää, jonka pitäisi huomata, jos OpenAI:n omat agentit alkavat toimia vastoin ohjeitaan.

Löydöksiä oli useita. Arviolta 6–25 prosenttia GPT-5.5-tason ja sitä järeämpien mallien agenttiliikenteestä jäi valvonnan ulkopuolelle. Codexin sisäisestä liikenteestä noin kymmenesosa jäi toukokuun ja heinäkuun välillä valvomatta, koska järjestelmä ei huomioinut kontekstin tiivistyksiä. Valvoja käynnistyi vasta, kun agentti palautti vuoron käyttäjälle, joten toimintaa jatkamalla agentti saattoi lykätä tarkastusta. Auditoijat löysivät myös mahdollisen tavan ohittaa Codexin hiekkalaatikko, ja vahvistusoppimisen koulutusajot olivat alussa kokonaan valvonnan ulkopuolella.

Varsinainen raportti oli 61-sivuinen. METR:n ja Redwoodin johdolle annettiin OpenAI:n mustaama 38-sivuinen versio, ja julkisuuteen päätyi vain lyhyt tiivistelmä. The Decoder kuvaa peitettyä osuutta lähes puoleksi, sivumäärällä mitattuna se on reilu kolmannes. METR:n mukaan sillä ”ei ollut yksipuolista oikeutta kuvailla tällaisia peittämisiä”.

Miksi tämä koskee myös ChatGPT:n käyttäjää

Sama Codex, jonka liikenteessä aukot olivat, kirjoittaa koodia myös suomalaisissa ohjelmistotaloissa. Kun agentti saa luvan ajaa komentoja ja käsitellä tiedostoja, valvontajärjestelmä on se, joka huomaa, jos malli yrittää jotain, mitä sen ei pitäisi. Jos tämän järjestelmän ulkoinen tarkastus julkaistaan vain tiivistelmänä, käyttäjälle jää yhtiön oma sana siitä, että vika on korjattu.

Vertaus katsastukseen ontuu, mutta vain vähän. Harva hyväksyisi, että autonvalmistaja mustaa kolmanneksen katsastusraportista ja kertoo itse korjanneensa jarrut. EU:n tekoälysäädös velvoittaa järeimpien yleiskäyttöisten mallien tarjoajat testaamaan mallejaan ja ilmoittamaan vakavista vaaratilanteista EU:n tekoälytoimistolle, mutta julkisesta raportoinnista se ei määrää yhtä tarkasti. Siksi riippumattomien tarkastajien ja yhtiöiden sisällä työskentelevien tutkijoiden puhevapaudella on käytännössä suuri merkitys.

Seuraavaksi kannattaa seurata OpenAI:n lupaamia uusia kumppanuuksia. Niistä ratkaisevin yksityiskohta on, saavatko ulkopuoliset tarkastajat julkaista löydöksensä itse. METR on jo ilmoittanut ajavansa tulevissa auditoinneissa laajempaa julkisuutta. Jos sopimuksiin kirjataan sama peitto-oikeus kuin kesällä, Altmanin lupaama työntekijän kaltainen pääsy näkyy ulospäin edelleen lyhyinä tiivistelminä.