Anthropic varoittaa: tekoäly voi pian alkaa kehittää itseään

Rekursiivinen itsensä kehittäminen (RSI, recursive self-improvement) tarkoittaa tekoälyä, joka kehittää itseään: malli auttaa rakentamaan seuraavan, kyvykkäämmän mallin, joka taas rakentaa seuraavan. Juuri tästä Anthropic nyt varoittaa sijoittajia.

Yhtiö jätti maanantaina 2.11. Yhdysvaltain arvopaperivalvoja SEC:lle päivitetyn listautumisesitteen (S-1/A). Riskiosiossa se kirjoittaa, että sen sisäiset arviot tulevista malleista viittaavat siihen, että yhtiö ”may imminently meet” oman vastuullisen skaalauksen politiikkansa (Responsible Scaling Policy, RSP) määritelmän ”dramatically accelerated progress attributable to AI”. Suomeksi: yhtiö voi aivan lähiaikoina täyttää määritelmän tekoälyn aiheuttamasta, dramaattisesti kiihtyneestä kehityksestä.

Sanalla on väliä. Esitteessä lukee ”imminently”, ei ”soon”, vaikka osa uutisia välittäneistä sivustoista on kääntänyt sen jälkimmäisellä. Imminently on vahvempi: se viittaa johonkin, mikä on käsillä.

Mikään nykyinen malli ei ole rajan yli

Varoitus koskee tulevia malleja. Samassa kappaleessa Anthropic toteaa, ettei se ole luokitellut yhtäkään nykyistä malliaan rajan ylittäväksi. Alkukielinen muotoilu kuuluu: ”We have not designated any of our current models as exceeding this threshold, and we continue to assess the underlying data.” Yhtiö siis myös jatkaa taustadatan arviointia.

Huolestuttavampi on toinen myönnytys. Anthropicin mukaan sen oma tekoälyn käyttö tutkimuksessa voi kasvattaa mallien kyvykkyyksiä nopeammin kuin turvallisuustoimia ehditään kehittää ja testata. Siksi yhtiö ei välttämättä huomaa kiihtymistä ajoissa.

Miksi kertoa tästä sijoittajille juuri nyt?

Lukijan kannattaa ymmärtää, millainen asiakirja on kyseessä. Listautumisesite ei ole tutkimusraportti. Sen riskiosio on lakisääteinen: yhtiön on kerrottava sijoittajille kaikki olennaiset riskit, joista se tietää, koska muuten se voi joutua myöhemmin vastuuseen osakkeenomistajille. Juristit kirjoittavat riskiosiot tarkoituksella laveiksi.

Esitteessä ei siis julkaista uutta mittaustulosta. Se kertoo, mitä yhtiön sisäiset arviot ennakoivat, ja suojaa yhtiötä tilanteelta, jossa riski toteutuu. Varoitus tulee vain hetkeä ennen osakkeiden tuloa pörssiin, ja ajoitus selittyy pitkälti tällä: tieto on nyt olennainen, ja se on kerrottava ennen kuin ensimmäinenkään osake myydään.

Esite on myös markkinointiasiakirja, kuten TechCrunchin Julie Bort huomauttaa. Väite siitä, että yhtiö on lähellä itseään kiihdyttävää tekoälyä, kertoo sijoittajalle riskistä mutta samalla teknologisesta etumatkasta. Molemmat lukutavat voivat olla totta yhtä aikaa.

Yksikään Anthropicin johtaja ei ole kommentoinut esitteen kohtaa julkisuudessa nimellään. Yhtiön kanta on luettavissa vain asiakirjan tekstistä.

Ihmiset halutaan pitää ohjaimissa

Anthropic sanoo esitteessä, ettei se usko voivansa turvallisesti antaa Clauden suunnitella ja rakentaa seuraavia mallisukupolvia täysin itsenäisesti ilman merkityksellistä ihmisen valvontaa tai ymmärrystä, ”if and when that becomes technically possible”, eli jos ja kun se tulee teknisesti mahdolliseksi. Siksi yhtiö harkitsee muutoksia turvallisuuspolitiikkaansa, jotta ihmiset pysyisivät ”in control of frontier model development at Anthropic”.

Muotoilu on harkittu. Yhtiö ei lupaa pysäyttää kehitystä, vaan pitää sen ihmisten hallinnassa. Mitä se käytännössä tarkoittaa, selviää vasta, kun päivitetty politiikka julkaistaan.

Tavalliselle Clauden tai muiden tekoälypalveluiden käyttäjälle kysymys on konkreettisempi kuin miltä se kuulostaa. Jos mallien kehitys kiihtyy nopeammin kuin niiden testaus, yritysten ja viranomaisten käyttöön voi tulla järjestelmiä, joiden toimintaa kukaan ei ole ehtinyt kunnolla tarkistaa. EU:n tekoälysäädös edellyttää yleiskäyttöisten mallien tarjoajilta riskien arviointia, ja nyt yksi suurimmista tarjoajista myöntää kirjallisesti, ettei se välttämättä näe riskiä ajoissa.

Seuraava merkkipaalu on helppo seurata. Kun Anthropic julkaisee päivitetyn RSP:n, siitä näkee, millä ehdoilla yhtiö aikoo jatkaa, jos sen oma raja ylittyy. Tämä kertoo enemmän kuin yksikään riskiosion lause.