OpenAI erotti kolme tutkijaa katoavien viestien takia

Tomek Korbak hoiti OpenAI:llä yhteydenpitoa METR:iin, ulkopuoliseen organisaatioon, joka testaa tekoälymallien vaarallisia kykyjä ennen niiden julkaisua. Lokakuun alussa hänet erotettiin. Korbakin mukaan hänelle kerrottiin suullisesti, että syy liittyi siihen, miten hän oli viestinyt METR:n kanssa.

Samalla lähtivät turvallisuustutkija Mikita Balesni ja projektipäällikkö Jasmine Wang. OpenAI:n mukaan kolmikko rikkoi yhtiön sääntöjä, jotka koskevat arkaluonteisen tiedon käsittelyä. Kaikki kolme kiistävät tämän.

Torstaina 22. lokakuuta The Wall Street Journal kertoi, mitä yhtiö tarkalleen epäili. Lehden mukaan OpenAI epäili kolmikon välittäneen yhtiön sisäisiä mallisuunnitelmia ulkopuoliselle tekoälyturvallisuustutkijalle Ryan Greenblattille. Epäilyihin liittyi Signal-keskusteluja, joissa viestit oli asetettu katoamaan.

Signal on salattu viestisovellus, jossa viestit voi asettaa poistumaan itsestään tietyn ajan kuluttua. Juuri siksi jälkikäteen on vaikea osoittaa, mitä niissä sanottiin. OpenAI ei ole kertonut julkisesti, mitä keskusteluja se tarkoittaa. Julkisista tiedoista ei myöskään selviä, saiko Greenblatt mitään yhtiön sisäistä aineistoa.

OpenAI: kyse ei ollut turvallisuushuolista

Yhtiö kertoi erottamisista ensimmäisen kerran 1. lokakuuta. Tiedottajan mukaan sisäinen tutkinta osoitti, että kolmikko oli käsitellyt arkaluonteista tietoa yhtiön vakiintuneiden menettelyjen ulkopuolella. 9. lokakuuta antamassaan lausunnossa OpenAI puhui ”merkittävästä luottamuksen rikkomisesta” (engl. significant breach of trust).

Samassa lausunnossa yhtiö torjui väitteen, että tutkijat olisi vaiennettu. Se kertoi myös olevansa ”syvästi pahoillaan” lopputuloksesta ja muistutti, että valvottavuus ”on pitkään ollut tutkimusohjelmamme keskeinen osa”.

Tutkijat: tämä oli työtämme

Kolmikko vastasi X:ssä. ”En koskaan jakanut yhtiön aineetonta omaisuutta”, Balesni kirjoitti (engl. ”I never shared company IP”). Hänen mukaansa hänen työnsä oli sovittu esihenkilöiden, tutkimusjohdon ja hallituksen kanssa, ja hänet erotettiin siksi, että hän oli ollut liikaa tekemisissä ulkopuolisten turvallisuusjärjestöjen kanssa.

Wangin tapaus on erilainen. Yhtiö viittasi hänen pääsyynsä erään johtajan sähköpostiin. Wangin mukaan pääsy oli annettu hänelle rekrytointia varten, ja kun hän avasi vahingossa arkaluonteisen viestin, hän ilmoitti siitä johtajalle muutamassa minuutissa. ”Meille annetut syyt irtisanomisillemme eivät yksinkertaisesti täsmää”, hän kirjoitti X:ssä (alkukieli englanti).

Kahdeksas lokakuuta tutkijat julkaisivat yhtiön hallinnolle osoitetun avoimen kirjeen otsikolla ”OpenAI ei pysty tekemään tekoälystä turvallista yksin”. Siinä he kirjoittavat, että tekoäly ei ole tavallinen teknologia eikä OpenAI tavallinen yhtiö. ”Me, jotka työskentelemme turvallisuuden parissa, näemme riskit ennen ketään muuta”, kirje jatkaa.

Korbak ja Balesni ovat päätekijöitä tutkimuksessa, joka käsittelee mallien ajatteluketjujen valvottavuutta. Ajatteluketju on se välivaiheiden sarja, jonka malli kirjoittaa ennen vastaustaan. Kun se on ihmiselle luettavaa, tutkija voi nähdä, mitä malli on tekemässä. Kirjeessä kolmikko vaatii, ettei OpenAI tai sen kilpailijat rakentaisi malleja, joiden päättelyä ihminen ei pysty tarkastamaan. ”Alana emme vielä tiedä, miten malleja, joita emme pysty valvomaan, kehitetään ja otetaan käyttöön turvallisesti”, kirjeessä sanotaan (alkukieli englanti).

Pelko voi ulottua koko alalle

Kirjeen painavin varoitus koskee muita työntekijöitä. ”Kaltaisemme irtisanomiset, näin äkillisesti toteutettuina ja viestittyinä, tukahduttavat avointa kulttuuria, jota OpenAI on aiemmin vaalinut”, tutkijat kirjoittavat (alkukieli englanti). Heidän mukaansa entiset kollegat ovat nyt peloissaan puhumaan.

Tällä on merkitystä myös tavalliselle ChatGPT:n käyttäjälle. Ulkopuoliset arvioijat kuten METR ovat harvoja tahoja, jotka pääsevät tarkistamaan, pitävätkö yhtiöiden lupaukset mallien turvallisuudesta paikkansa. Arviointi on vapaaehtoista, ja se toimii vain, jos yhtiön tutkijat uskaltavat jakaa tietoa arvioijille. Jos työntekijät alkavat pelätä jokaista yhteydenottoa, yleisö jää yhtiön oman sanan varaan.

Raja on silti aidosti hankala. Yhtiöllä on oikeus suojata liikesalaisuuksiaan, ja vuotoepäilyt ovat OpenAI:lle tuttuja: vuonna 2024 se erotti tutkijat Leopold Aschenbrennerin ja Pavel Izmailovin samankaltaisten epäilyjen vuoksi. Wang viittasi tähän X:ssä. ”Emme olleet ensimmäiset, jotka on työnnetty ulos OpenAI:ltä epäilyttävissä olosuhteissa”, hän kirjoitti (alkukieli englanti).

Ajoitus on yhtiölle kiusallinen, sillä OpenAI yrittää parhaillaan kerätä uutta rahoitusta ennen kaavailtua listautumistaan.

Seuraava testi on käytännöllinen. OpenAI on kertonut viimeistelevänsä sopimuksia ulkopuolisten turvallisuusarvioijien kanssa, mutta ei ole nimennyt niitä. Kun nimet julkistetaan, nähdään, jatkuuko yhteistyö METR:n kanssa vai haetaanko tilalle uusia kumppaneita. Greenblattin kommenttia WSJ:n tietoihin AI Suomi ei löytänyt.