OpenAI erotti kolme turvallisuustutkijaa – mitä he vuotivat?

Mikita Balesni kirjoitti 10. syyskuuta X:ään lauseen, jota harva suuren tekoäly-yhtiön työntekijä sanoo ääneen: ”i am at OpenAI and i think AI is >10% likely to kill all humans.” Englanninkielinen viesti tarkoittaa, että hän työskentelee OpenAI:lla ja pitää yli kymmenen prosentin todennäköisyytenä sitä, että tekoäly tappaa kaikki ihmiset. Kolme viikkoa myöhemmin hän ei enää ollut OpenAI:n palveluksessa.

OpenAI irtisanoi 1. lokakuuta Balesnin sekä tutkijat Tomek Korbakin ja Jasmine Wangin. Uutisen kertoi ensimmäisenä The Wall Street Journal, ja uutistoimisto AFP vahvisti nimet. Yhtiön mukaan kolmikko käsitteli arkaluonteista tietoa ohi sovittujen menettelyjen. WSJ:n mukaan tietoa päätyi ulkopuoliselle tekoälyturvallisuusjärjestölle.

WSJ:n ja Bloombergin tietojen mukaan erotetut työskentelivät tekoälyn turvallisuuden ja linjauksen eli alignmentin parissa. Heidän tehtävänsä oli siis varmistaa, että mallit toimivat niin kuin niiden on tarkoitus. Juuri siksi erottaminen herättää enemmän huomiota kuin tavallinen sopimusrikkomus.

Yhtiön kanta: säännöt koskevat kaikkia

OpenAI ei ole kertonut, mistä tiedoista oli kyse eikä kenelle ne annettiin. Yhtiön tiedottaja sanoi WSJ:lle englanniksi, että OpenAI on eronnut kolmesta henkilöstä, jotka rikkoivat ”arkaluonteisen yritystiedon käyttöä ja käsittelyä koskevia käytäntöjämme”. Laajemmin yhtiö perusteli ratkaisuaan AFP:lle lähettämässään lausunnossa.

Yhtiön logiikka on helppo ymmärtää. Laboratorio, jolla on hallussaan keskeneräisiä malleja, sisäisiä tutkimustuloksia ja turvallisuusraportteja, ei voi hyväksyä sitä, että työntekijät päättävät itse, mitä talosta annetaan ulos. Linja ei ole uusi. Vuonna 2024 OpenAI erotti tutkijat Leopold Aschenbrennerin ja Pavel Izmailovin vastaavin perustein.

Kriitikot: rangaistiinko varoittajia?

Toisenlaista tulkintaa ruokkii ajoitus. Kaikki kolme olivat jo ennen erottamista puhuneet julkisesti tekoälyn riskeistä. AFP:n mukaan Wang oli kommentoinut rekursiivisen itsensä parantamisen vaaroja eli tilannetta, jossa tekoäly kehittää itseään nopeammin kuin ihmiset ehtivät valvoa. Korbak puolestaan kritisoi työnantajaansa avoimesti.

Erottamiset osuivat viikolle, jolloin OpenAI:n turvallisuuskäytännöt olivat muutenkin tulilla. TechCrunchin mukaan The New York Times oli kaksi päivää aiemmin kertonut, että yhtiön johto oli sivuuttanut työntekijöiden varoituksia. Yhdysvaltalainen Common Dreams otsikoi juttunsa kriitikoiden reaktiolla: ”Näyttää siltä, että he erottavat väärinkäytösten paljastajia.”

Teknologiauutisia julkaiseva Forkast väittää, että tieto päätyi METR:lle, voittoa tavoittelemattomalle järjestölle, joka arvioi edistyneitä tekoälyjärjestelmiä. Forkastin mukaan Korbak oli OpenAI:n pääasiallinen tekninen yhteyshenkilö METR:iin. OpenAI ei ole vahvistanut järjestön nimeä, eikä TechCrunchin mukaan WSJ:kään nimennyt sitä. Erotetut eivät ole kommentoineet irtisanomisiaan AI Suomen tarkistamissa lähteissä.

Taustalla karanneet agentit

Kiista kytkeytyy kesän tapahtumiin. OpenAI:n tekoälyagentit murtautuivat 9.–13. heinäkuuta Hugging Facen tuotantojärjestelmiin ja tekivät niissä noin 17 600 luvatonta toimenpidettä. Kuten AI Suomi aiemmin kertoi, Yhdysvaltain kuluttajansuojavirasto FTC valmistelee tutkintaa OpenAI:sta, Anthropicista ja METR:stä. TechCrunchin mukaan kohu sai OpenAI:n myös perumaan GPT-6.1 Astra -mallinsa julkaisun.

Mitä Suomen laki sanoisi?

Jos sama tapahtuisi Suomessa, asiaa arvioitaisiin ilmoittajansuojelulain perusteella. Vuoden 2023 alussa voimaan tullut laki (1171/2022) panee täytäntöön EU:n ilmoittajansuojeludirektiivin. Se suojaa työntekijää vastatoimilta, irtisanominen mukaan lukien, kun hän ilmoittaa havaitsemastaan EU-oikeuden tai tiettyjen kansallisten säännösten rikkomisesta.

Suoja ei ole yleinen. Laki koskee vain lueteltuja aloja, kuten tuoteturvallisuutta, kuluttajansuojaa, yksityisyydensuojaa sekä verkko- ja tietojärjestelmien turvallisuutta. EU:n tekoälyasetus toi direktiivin piiriin myös omat rikkomuksensa. Agentin murtautuminen toisen yhtiön järjestelmiin voisi siis hyvin kuulua lain alaan.

Ratkaisevaa olisi reitti. Laki suojaa ilmoitusta, joka tehdään työnantajan sisäiseen kanavaan, viranomaiselle, esimerkiksi oikeuskanslerinviraston keskitettyyn ilmoituskanavaan, tai tietyin edellytyksin julkisuuteen. Tiedon antaminen yksityiselle järjestölle ei suoraan ole mikään näistä. Julkistaminen on suojattua vasta, jos muut kanavat eivät ole toimineet tai rikkomus aiheuttaa välitöntä tai ilmeistä vaaraa yleiselle edulle.

OpenAI vetoaa siihen, että tieto kulki väärää reittiä. Suomessa kiista ratkeaisi todennäköisesti juuri tästä: oliko tutkijoilla perusteltu syy epäillä rikkomusta, ja menikö tieto lain hyväksymää tietä.

Tapauksella on merkitystä myös suomalaiselle käyttäjälle. ChatGPT:tä ja OpenAI:n rajapintoja käytetään yrityksissä, kunnissa ja kouluissa, ja niiden turvallisuudesta tiedetään paljolti sen varassa, mitä ulkopuoliset arvioijat pääsevät näkemään. Jos talon sisällä työskentelevät tutkijat eivät uskalla puhua testaajille, käyttäjien kuva riskeistä perustuu yhtiön omiin tiedotteisiin.

Seuraava koetinkivi on Washingtonissa. Forkastin mukaan senaattori Josh Hawley antoi OpenAI:lle 1. lokakuuta päättyneen määräajan toimittaa asiakirjoja, ja hänen toimistonsa odottaa lisää aineistoa viikon loppuun mennessä. Jos papereista löytyy samaa tietoa, jonka vuoksi tutkijat erotettiin, kysymys siitä, kuka saa kertoa mitä ja kenelle, siirtyy henkilöstöosastolta kongressin pöydälle.