Tekoäly sodassa, turvallisuusriski rauhassa
Yhdysvaltain puolustusministeriö punnitsee toimenpidettä, jota se on perinteisesti käyttänyt vain vihollismaita vastaan. Se harkitsee Anthropicin leimaamista toimitusketjuriskiksi, mikä tarkoittaisi käytännössä sitä, että jokaisen Pentagonin kanssa asioivan yrityksen olisi katkaistava välinsä Anthropiciin.
Kohde ei ole kiinalainen valmistaja vaan amerikkalainen tekoäly-yhtiö, joka on Pentagonin ainoa kumppani salatuissa tekoälyverkoissa. Vielä viime heinäkuussa osapuolet allekirjoittivat 200 miljoonan dollarin yhteistyösopimuksen. Nyt puolustusministeri Pete Hegseth on NBC Newsin mukaan lähellä päätöstä katkaista välit.
Iskun jälkipyykki
Kiista kärjistyi tammikuun alussa, kun Yhdysvaltain erikoisjoukot tekivät iskun Venezuelaan ja ottivat kiinni presidentti Nicolás Maduron. Wall Street Journalin mukaan operaatiossa hyödynnettiin Anthropicin Claude-tekoälyä puolustusyhtiö Palantirin alustan kautta, oletettavasti tiedusteludatan analysointiin.
Operaation jälkeen Anthropicin johtohenkilö otti yhteyttä Palantiriin ja tiedusteli, oliko Claudea todella käytetty iskussa. Palantirin edustaja tulkitsi yhteydenoton hälyttäväksi ja raportoi siitä Pentagonille. Viesti oli, että Anthropic saattaisi vastustaa oman teknologiansa sotilaskäyttöä.
Pentagonille kyse on luottamuksesta. Tekoälykumppani, joka kyseenalaistaa operaatioita jälkikäteen, näyttäytyy turvallisuusriskinä riippumatta siitä, ovatko sen huolet sinänsä perusteltuja.
“Demokratioiden tulisi saada tekoälytyökaluja käyttöönsä – harkiten ja tietyin rajoin.”
Kaksi punaista viivaa vastaan rajaton käyttöoikeus
Anthropicin kanta tiivistyy kahteen ehtoon. Yhtiö ei halua Claudea käytettävän amerikkalaisten massavalvontaan eikä täysin autonomisissa asejärjestelmissä, joissa ihminen ei tee lopullista tulituspäätöstä.
Hegseth julkaisi tammikuussa tekoälystrategian, joka vaatii kaikkia puolustusministeriön tekoälytoimittajia poistamaan omat käyttörajoituksensa 180 päivän kuluessa. Pentagonin kanta on, että mallin pitää olla käytettävissä kaikkiin laillisiin tarkoituksiin ilman valmistajan ehtoja. Muut suuret tekoäly-yhtiöt, kuten OpenAI ja Google, eivät ole asettaneet vastaavia rajoituksia sotilaskäytölle.
Asetelma on kiusallinen molemmille. Pentagon tarvitsee huipputekoälyä, mutta ei hyväksy toimittajaa, joka sanelee käyttöehdot. Anthropic on puolestaan rakentanut koko brändinsä vastuullisen kehityksen varaan – siitä luopuminen veisi yhtiöltä sen keskeisen kilpailuedun sijoittajien ja tutkijoiden silmissä.
