Pentagonin puhelu riitti – Anthropic hylkäsi turvallisuuslupauksensa

Anthropic julkaisi tiistaina kolmannen version vastuullisen skaalauksen politiikastaan. Merkittävin muutos: yhtiö luopui sitoumuksestaan pysäyttää tekoälymallien kehitys, jos turvatoimet eivät pysy perässä. Uudistus tapahtui samana päivänä, kun Yhdysvaltain puolustusministeri Pete Hegseth antoi yhtiölle perjantaihin asti aikaa avata Claude-mallinsa rajoituksetta armeijan käyttöön.

Kyse ei ole pelkästä byrokratiasta. Anthropic perustettiin nimenomaan tekoälyn turvallisuushuolien vuoksi, ja nyt yhtiö luopui keskeisimmästä erottautumistekijästään.

Lupaus, joka erotti Anthropicin muista

Anthropicin Responsible Scaling Policy syntyi syyskuussa 2023. Perustajat Dario ja Daniela Amodei olivat lähteneet OpenAI:sta, koska he kokivat, ettei turvallisuuteen suhtauduttu riittävän vakavasti. RSP oli heidän vastauksensa: sitova kehys, joka määritteli tarkat ehdot tekoälymallien kehittämiselle.

Linjauksen ydin oli yksinkertainen. Jos mallin kyvyt ylittivät yhtiön turvatoimien tason, kehitys pysäytettiin. Tämä koski esimerkiksi tilanteita, joissa malli olisi kyennyt auttamaan biologisten aseiden valmistuksessa. Kukaan muu alan toimija ei ollut tehnyt vastaavaa julkista sitoumusta.

Uhkavaatimus Pentagonissa

Kriisin juuret ulottuvat tammikuun 3. päivään, jolloin Yhdysvaltain armeija toteutti operaation Venezuelan pääkaupungissa Caracasissa. Operaation kohteena oli presidentti Nicolás Maduro, ja Claude oli mukana Palantirin luokiteltujen järjestelmien kautta. Anthropic sai tietää mallinsa käytöstä vasta jälkikäteen ja vaati selvitystä siitä, miten Claudea hyödynnettiin iskussa.

Tapaus kärjisti jo ennestään jännitteiset välit. Pentagon piti Anthropicin turvarajoitteita esteenä tehokkaalle sotilaskäytölle, kun taas yhtiö katsoi, että sen mallia oli käytetty vastoin sovittuja ehtoja.

Helmikuun 24. päivänä puolustusministeri Hegseth tapasi Amodein Pentagonissa. Vaatimus oli suora: Anthropicilla on perjantaihin kello 17.01 asti aikaa avata Claude "kaikkiin laillisiin tarkoituksiin". Muussa tapauksessa Pentagon peruu 200 miljoonan dollarin sopimuksen, julistaa yhtiön toimitusketjuriskiksi ja vetoaa puolustustuotantolakiin, joka antaa presidentille valtuudet pakottaa yksityisyritykset palvelemaan kansallista turvallisuutta.

Hegseth kutsui Anthropicin lähestymistapaa julkisesti "woke-tekoälyksi". Pentagonin virkailija totesi CNN:lle, että yhtiön on "lähdettävä mukaan tai jäätävä ulos".

Sitovista lupauksista julkisiksi tavoitteiksi

RSP:n kolmas versio korvaa sitovat kehitysrajat joustavammalla Frontier Safety Roadmap -kehyksellä. Anthropicin omin sanoin kyse on "julkisista tavoitteista" eikä "kovista sitoumuksista". Käytännössä yhtiö arvioi jatkossa itse, milloin kehityksen hidastaminen on perusteltua. Aikaisempi linjaus olisi vaatinut täyden pysäytyksen.

Ero on merkittävä. Vanhassa politiikassa raja oli selkeä: jos turvatoimet eivät riitä, kehitys pysähtyy. Uudessa versiossa Anthropic voi jatkaa kehitystä niin kauan kuin kilpailijat eivät ole turvallisempia. Se on kuin lupaisi ajaa varovasti, mutta vain jos muut ajavat vielä holtittomammin.

OpenAI, Google ja xAI ovat kaikki jo hyväksyneet malliensa sotilaskäytön "kaikkiin laillisiin tarkoituksiin". Muskin xAI sai juuri tällä viikolla luvan luokiteltuihin järjestelmiin. Anthropic oli viimeinen pidättelevä toimija.

Yhtiö pitää silti kiinni kahdesta rajasta: Claude ei saa ohjata autonomisia asejärjestelmiä eikä sitä saa käyttää amerikkalaisten massavalvontaan. Nämä ovat ne rajoitukset, joista Pentagonin kanssa todellisuudessa kiistellään.

Kestääkö yksikään turvallisuuslupaus?

Anthropicin tapaus paljastaa tekoälyalan itsesääntelyn rajat. Yhtiö, joka perustettiin turvallisuuden nimissä, luopui ydinlupauksestaan alle kolmessa vuodessa. Jos Anthropic ei pystynyt pitämään lupaustaan, on vaikea nähdä miten kukaan muu pystyisi.

Euroopassa tilanne on erilainen. EU:n tekoälysäädös asettaa lakisääteiset rajat, joita yksittäinen hallitus ei voi painostamalla kumota. Yhdysvalloissa vastaavaa kehystä ei ole, ja Trumpin hallinto on aktiivisesti purkanut edellisen hallinnon tekoälysääntelyä.

Suomellekin asialla on väliä. Puolustusvoimat hyödyntää kaupallisia tekoälytyökaluja, ja eurooppalaisten puolustushankkeiden riippuvuus yhdysvaltalaisista malleista kasvaa. Jos mallin turvallisuusehdot voivat muuttua yhden puhelun perusteella, se pakottaa arvioimaan riippuvuuksia uudelleen.