Anthropic nappasi kilpailijoidensa tutkijat

Clark siirtyy politiikasta tutkimusjohtoon

Anthropic ilmoitti tiistaina perustavansa Anthropic-instituutin, uuden tutkimusyksikön, joka keskittyy tekoälyn yhteiskunnallisiin riskeihin. Instituuttia johtaa yhtiön perustajajäsen Jack Clark uudella tittelillään Head of Public Benefit.

Clark tunnetaan tekoälypolitiikan veteraanina. Ennen Anthropicin perustamista hän toimi OpenAI:n politiikkajohtajana vuosina 2016–2020 ja sitä ennen teknologiatoimittajana Bloombergilla ja The Registerissä. Hän kirjoittaa viikoittaista Import AI -uutiskirjettä, jota lukee noin 70 000 tilaajaa. Clarkin tausta yhdistää harvinaisella tavalla journalismin, politiikan ja teknisen ymmärryksen, mikä tekee hänestä luontevan valinnan johtamaan instituuttia, jonka tehtävä on viestiä tekoälyn riskeistä myös yhtiön ulkopuolelle.

Kolme tiimiä saman katon alle

Instituutti ei synny tyhjästä. Anthropic yhdistää kolme olemassa olevaa tutkimustiimiään: Frontier Red Teamin, joka stressitestaa tekoälyjärjestelmiä niiden suorituskyvyn rajoilla, Societal Impacts -ryhmän, joka analysoi Clauden todellista käyttöä, sekä Economic Research -tiimin, joka seuraa tekoälyn vaikutuksia työmarkkinoihin ja talouteen.

Frontier Red Team on jo tuottanut konkreettista turvallisuustutkimusta. Tiimi käytti äskettäin Claudea Firefox-selaimen lähdekoodin haavoittuvuuksien etsimiseen ja testasi tekoälyn kykyä hyödyntää löydettyjä aukkoja itsenäisesti. Tällainen työ siirtyy nyt osaksi laajempaa kokonaisuutta, jossa teknisiä havaintoja voidaan yhdistää taloudellisiin ja yhteiskunnallisiin analyyseihin.

Tutkijoita DeepMindiltä ja OpenAI:lta

Instituutti tuo Anthropiciin kolme merkittävää tutkijaa. Matt Botvinick johtaa tekoälyn ja oikeusjärjestelmän tutkimusta. Hän on aiemmin toiminut Google DeepMindin tutkimusjohtajana ja Princetonin professorina ja työskentelee nykyisin vierailevana tutkijana Yalen oikeustieteellisessä tiedekunnassa.

Taloustieteilijä Anton Korinek Virginian yliopistosta vetää tutkimusta siitä, miten tekoäly voi muuttaa taloudellisen toiminnan perusluonnetta. Zoë Hitzig puolestaan siirtyy OpenAI:sta yhdistämään taloustieteellistä tutkimusta mallien koulutukseen ja kehitykseen. Rekrytoinnit viestivät siitä, ettei Anthropic hae instituuttiin pelkästään insinöörejä vaan myös yhteiskuntatieteilijöitä, jotka ymmärtävät tekoälyn vaikutuksia laajemmin.

Pentagon-kiista antaa ajoitukselle painoarvoa

Instituutin perustamisen ajoitus ei ole sattumaa. Anthropic käy parhaillaan oikeustaistelua Yhdysvaltain puolustusministeriön kanssa. Pentagon merkitsi yhtiön toimitusketjuriskiksi sen jälkeen, kun Anthropic kieltäytyi poistamasta Claudesta turvallisuusrajoituksia, jotka estävät tekoälyn käytön autonomisissa asejärjestelmissä ja massavalvonnassa. Kiista voi maksaa yhtiölle miljardeja dollareita menetettyä liikevaihtoa.

Tässä tilanteessa instituutin perustaminen vahvistaa Anthropicin viestiä: yhtiö ottaa tekoälyn riskit vakavasti myös silloin, kun siitä aiheutuu taloudellisia tappioita. Samaan aikaan Anthropic avaa toimistoa Washington D.C.:hen ja nimitti entisen Stripen johtajan Sarah Heckin julkisen politiikan vetäjäksi. Kokonaisuus viittaa siihen, että yhtiö rakentaa järjestelmällistä vaikuttamiskykyä päättäjien suuntaan.

Turvallisuustutkimuksen uusi sukupolvi

Tekoälyn turvallisuutta on tähän asti tutkittu pääosin voittoa tavoittelemattomissa organisaatioissa. Oxfordin Future of Humanity Institute (FHI), joka teki merkittävää työtä eksistentiaalisten riskien parissa, suljettiin vuonna 2024 yliopiston sisäisten kiistojen vuoksi. Machine Intelligence Research Institute (MIRI) ja Alignment Research Center (ARC) jatkavat työtään, mutta niiden resurssit ovat vaatimattomat verrattuna suuriin tekoäly-yhtiöihin.

Anthropic-instituutti edustaa uutta mallia: turvallisuustutkimusta eturintaman tekoälykehittäjän sisällä. Tämä tuo etuja, kuten pääsyn uusimpiin malleihin ja sisäiseen dataan, mutta myös jääviysriskin. Voiko organisaatio arvioida kriittisesti teknologiaa, jonka kehittäminen rahoittaa sen oman tutkimuksen?

Suomalaisille yrityksille ja työntekijöille instituutin perustaminen on merkki siitä, että tekoälyn vaikutuksia työmarkkinoihin ja oikeusjärjestelmiin aletaan tutkia järjestelmällisesti myös kehittäjäyhtiöiden sisällä. Se, tuottaako sisäinen tutkimus aidosti kriittisiä tuloksia vai toimiiko se lähinnä yhtiön maineen pönkittäjänä, selviää vasta kun ensimmäiset julkaisut ilmestyvät.