Sata todistajaa: Altmaniin ei voi luottaa

New Yorkerin toimittajat Ronan Farrow ja Andrew Marantz käyttivät 18 kuukautta tutkinnan kokoamiseen. He haastattelivat yli sataa henkilöä, kävivät läpi sisäisiä dokumentteja ja päätyivät samaan tulokseen kuin moni OpenAI:n entinen johtohenkilö: Sam Altmanin sana ei pidä.

Sunnuntaina julkaistu artikkeli on laajin yksittäinen selvitys OpenAI:n toimitusjohtajasta. Sen sisältö haastaa kuvan, jonka Altman on vuosien mittaan itsestään rakentanut.

Salaiset muistiot

Tutkinnan ytimessä ovat kaksi aiemmin julkaisematonta dokumenttia. OpenAI:n entinen tutkimusjohtaja Ilya Sutskever kokosi syksyllä 2023 noin 70-sivuisen muistion, joka sisältää Slack-viestejä, HR-dokumentteja ja kuvakaappauksia. Sutskever otti kuvakaappaukset kiertääkseen yhtiön sisäistä valvontaa ja jakoi muistion kolmelle hallituksen riippumattomalle jäsenelle katoavien viestien kautta. Muistion ensimmäinen kohta Altmanin toimintamalleista on yksiselitteinen: valehteleminen.

Toinen keskeinen lähde on Anthropic:n toimitusjohtajan Dario Amodein yli 200 sivua muistiinpanoja OpenAI-ajaltaan. Amodei päätyi samaan lopputulokseen kuin Sutskever: 'Ongelma OpenAI:ssa on Sam itse.'

Molemmat dokumentit päätyivät OpenAI:n hallituksen käsiin ja vaikuttivat päätökseen erottaa Altman marraskuussa 2023. Viiden päivän mediamyrskyn jälkeen Altman palasi tehtäväänsä, ja hänet erottaneet hallituksen jäsenet korvattiin. osa Sutskeverin muistion todisteista tuli toisen käden lähteistä teknologiajohtaja Mira Muratin kautta, eikä kaikkia väitteitä vahvistettu itsenäisesti ennen hallituksen päätöstä.

Valehtelun jäljet

Tutkinta ei jää väitteiden tasolle vaan dokumentoi yksittäisiä tapauksia, joissa Altmanin puheet ja teot eivät kohdanneet.

Paul Graham, Y Combinator:n perustaja, kertoi kollegoilleen ennen Altmanin lähtöä vuonna 2019, että 'Sam oli valehdellut meille koko ajan'. Useat YC:n kumppanit vahvistivat, että Altman käytännössä erotettiin, vaikka hän on julkisesti ja valan alla kiistänyt tulleensa koskaan erotetuksi. Huolta Altmanin luotettavuudesta oli esitetty jo aiemmin: ohjelmoija Aaron Swartz varoitti ystäviään vuosia ennen kuolemaansa vuonna 2013, ettei Altmaniin voi luottaa.

Joulukuussa 2022 Altman vakuutti hallitukselleen, että GPT-4:n uusilla ominaisuuksilla oli turvallisuuspaneelin hyväksyntä. Hallituksen jäsen Helen Toner selvitti myöhemmin, ettei kiistanalaisia ominaisuuksia – kuten hienosäätöä ja henkilökohtaista avustajaa – ollut koskaan hyväksytty.

OpenAI lupasi turvallisuuteen keskittyvälle superalignment-tiimilleen 20 prosenttia käytettävissä olevasta laskentatehosta, mikä oli yli miljardin dollarin arvoinen sitoumus. Neljän lähteen mukaan todellinen osuus oli yhdestä kahteen prosenttia, ja tiimi sai käyttöönsä vanhinta laitteistoa. Parempi kapasiteetti ohjattiin tuottaviin tuotteisiin. Sittemmin koko tiimi on lakkautettu.

Amodei dokumentoi myös, miten Altman kiisti erään turvallisuuslausekkeen olemassaolon Microsoftin miljardin dollarin sijoitusneuvotteluissa. Kun Amodei luki lausekkeen ääneen sopimustekstistä, Altman vaihtoi selitystä.

Valta ilman vastapainoa

Vertaus talousrikollisiin on kova, mutta se heijastaa todellista huolta Piilaaksossa. Madoff pyöritti historian suurinta Ponzi-huijausta ja Bankman-Fried tuomittiin asiakasvarojen kavaltamisesta. Microsoftin johtajan viesti on selvä: riski siitä, että Altmanin toiminta osoittautuu samankaltaiseksi, on olemassa.

Altmanin palattua johtoon OpenAI on muuttunut merkittävästi. Yhtiö luopui voittoa tavoittelemattomasta rakenteestaan, lakkautti useita turvallisuustiimejä ja keskitti valtaa toimitusjohtajalle. Altman itse on todennut, etteivät hänen 'fiiliksensä kohtaa perinteisen tekoälyturvallisuuden kanssa'.

Hallituksen motiivetkaan eivät olleet kiistattomia. Erottamisen jälkeisenä viikonloppuna hallituksen jäsen Toner ehdotti OpenAI:n yhdistämistä Anthropic:n kanssa niin, että kilpailijan johto ottaisi vallan. Yhdistyminen kaatui käytännön esteisiin, mutta ehdotus osoittaa, ettei hallituskaan toiminut puhtaasti turvallisuushuolista.

Tutkinta nostaa esiin myös Altmanin suhteen autoritaarisiin hallitsijoihin. Hän jatkoi Saudi-Arabian rahoituksen hakemista toimittaja Jamal Khashoggin murhan jälkeen ja kysyi neuvonantajiltaan, pääsisikö hän siitä 'kuin koira veräjästä'. Hän kehitti suhteita Arabiemiraattien sheikki Tahnooniin ja vieraili tämän 250 miljoonan dollarin superjahdilla. Kun kilpailija Anthropic kieltäytyi Pentagonin vaatimuksista luopua autonomisten aseiden rajoituksista, puolustusministeri Pete Hegseth asetti yhtiön mustalle listalle. Altman nappasi tilaisuudesta 50 miljardin dollarin puolustussopimuksen, mikä nosti OpenAI:n arvostusta 110 miljardilla dollarilla.

Luottamuksen hinta

Yksittäisen toimitusjohtajan luonteenpiirteet eivät yleensä ole maailmanlaajuinen uutinen. Altmanin kohdalla ne ovat, koska OpenAI:n teknologia vaikuttaa jo satojen miljoonien ihmisten työhön ja arkeen. Yhtiö julkaisi tutkinnan ilmestymispäivänä omat politiikkaehdotuksensa tekoälyn aiheuttamiin työmarkkinamuutoksiin. Kun tekoälyn kehitystä johtaa henkilö, jonka sisäpiiri kuvailee epäluotettavaksi, kyse ei ole pelkästä yhtiödraamasta vaan koko toimialan uskottavuudesta.

Entinen hallituksen jäsen Sue Yoon tarjoaa armollisimman tulkinnan: Altman ei ole laskelmoiva manipuloija vaan oman uskonsa sokaisema. 'Hän on liian uppoutunut omaan maailmankuvaansa. Hän tekee asioita, jotka eivät ole järkeviä, jos elää todellisessa maailmassa.'

Armeliaisuus ei kuitenkaan muuta perusfaktaa. OpenAI:n hallinto nojaa yhden ihmisen sanaan, ja New Yorkerin tutkinta kertoo, ettei se riitä.