Kuvitellaan tilanne: washingtonilaisen tuomarin pöydälle tulee kiireellinen hakemus. Yhdysvaltain kauppaministeriö pyytää kieltämään uuden tekoälymallin julkaisun, koska riippumaton arvioija on todennut, että malli voisi auttaa biologisen aseen rakentamisessa. Juuri tällaista järjestelmää Anthropic nyt tarjoaa Yhdysvaltain kongressille.
Politico kertoi lakiluonnoksesta ensimmäisenä 16. lokakuuta, ja TechCrunchin toimittaja Lucas Ropek kävi sen läpi 20. lokakuuta. Anthropicin tiedottaja vahvisti luonnoksen Politicolle. TechCrunchin kysymyksiin yhtiö ei heti vastannut.
Raja on 50 ihmishenkeä
Luonnoksen mukaan mallin julkaisu voitaisiin estää, jos siitä aiheutuu ennakoitava ja välitön riski yli 50 ihmisen kuolemasta tai yli miljardin dollarin omaisuusvahingoista. Riskin pitää myös syntyä tietyllä tavalla: biologisen aseen tai kyberhyökkäyksen kautta tai siten, että malli pääsee kehittäjänsä valvonnasta.
Riskit arvioisivat riippumattomat arvioijat, jotka rekisteröityisivät kauppaministeriöön. Jos arvioija havaitsisi välittömän katastrofiriskin, sen pitäisi ilmoittaa ministeriölle 72 tunnin kuluessa. Ministeriö ei kuitenkaan voisi pysäyttää mallia itse. Sen pitäisi pyytää kieltoa Washington D.C.:n tuomioistuimelta, ja luonnos kieltää nimenomaisesti kaikkia liittovaltion virastoja pysäyttämästä mallin levitystä omin päin.
Lukuja ei ole keksitty tyhjästä. Sama raja, yli 50 kuolemaa tai yli miljardi dollaria, on Kalifornian SB 53 -laissa, jonka kuvernööri Gavin Newsom allekirjoitti syyskuussa 2025. Anthropicin kesäkuussa julkaisema Advanced AI Framework -linjapaperi suosittaa katastrofiriskille juuri Kalifornian lain mukaista määritelmää.
“Luonnos edustaa Anthropicin Advanced AI Framework -linjapaperissa esitettyjä ehdotuksia.”
Linjapaperin mukaan velvoitteet koskisivat vain suurimpia kehittäjiä. Rajana olisi mallin koulutukseen käytetty yli 10²⁵ laskutoimituksen laskentateho, ja lisäksi yhtiön vuotuisten tekoälytulojen pitäisi ylittää 500 miljoonaa dollaria tai tutkimusmenojen miljardi dollaria. Startupit ja tavalliset tekoälyä käyttävät yritykset jäisivät ulkopuolelle.
Kynnys on korkea, ja arvioijat saavat palkkansa yhtiöiltä
Kynnys on korkea. Pelkkä 50 kuoleman raja ei vielä riittäisi, sillä riskin pitäisi olla myös ennakoitava ja välitön. Ennen kuin mitään on tapahtunut, juuri tämä on tuomioistuimessa vaikea osoittaa. Malli, joka arvioiden mukaan voisi auttaa kymmenen ihmisen hengen vievässä iskussa tai satojen miljoonien dollarien tietomurrossa, ei luonnoksen perusteella olisi kiellettävissä.
Lähteissä ei ole nimeltä mainittua kriitikkoa, joka olisi ottanut kantaa juuri Anthropicin lukurajoihin. Kalifornian lain kynnyksistä on silti keskusteltu. Brookings-instituutin tutkijat Malihe Alikhani ja Aidan T. Kane kirjoittivat, että osa tarkkailijoista pelkää tiukan laskentarajan luovan sääntelyjyrkänteen, jonka alle yritykset voivat tietoisesti jäädä.
TechCrunchin Ropek nostaa esiin toisen ongelman. Laboratoriot saisivat maksaa arvioijilleen, kunhan maksu ei riipu arvion tuloksesta, eikä luonnoksesta selviä, miten raha ei silti vaikuttaisi arvioihin. Anthropic tunnistaa riskin itsekin. Linjapaperissa varoitetaan arvioijashoppailusta, jossa yhtiö valitsee arvioijan, joka vaatii siltä vähiten, ja ehdotetaan, että parhaiksi arvioidut arvioijat voitaisiin arpoa yhtiöille.
Ropekin mukaan luonnoksen skenaariot ovat myös jossain määrin sivussa siitä, mikä alaa juuri nyt huolettaa eniten: itsenäisesti toimivien tekoälyagenttien tekemistä hyökkäyksistä. Uutisissa on kerrottu tapauksista, joissa tekoälyohjelmat ovat jättäneet käyttäjiensä ohjeet noudattamatta ja murtautuneet verkkosivustoille.
Miksi tekoäly-yhtiö pyytää sääntelyä itselleen?
Ala on yleensä vastustanut pakollista valvontaa ja ehdottanut tilalle vapaaehtoisia, yhtiöiden sisään sijoitettuja arvioijia. Google DeepMindin Demis Hassabis on esittänyt alan itsesääntelyelintä, joka olisi rakennettu rahoitusalan valvoja FINRA:n mallin mukaan. Nvidian toimitusjohtaja Jensen Huang taas on sanonut, ettei tekoälyala tarvitse uusia lakeja. TechCrunchin mukaan Anthropic menee pidemmälle kuin muut alan ehdotukset.
Syitä on useita. Lain ensimmäisen luonnoksen kirjoittaja määrää pitkälti, millä käsitteillä asiasta jatkossa puhutaan. Tuomioistuinmalli myös suojaa yhtiöitä viranomaisten harkintavallalta, sillä virasto ei voisi pysäyttää mallia oman arvionsa perusteella. Linjapaperissa todetaan englanniksi suoraan: "Self-assessment is not enough", eli pelkkä itsearviointi ei riitä. Lokakuun puolivälissä Anthropic kertoi antaneensa arviointijärjestö METR:lle lähes työntekijän tasoiset pääsyoikeudet.
Mukana on myös osavaltiopolitiikkaa. Linjapaperin mukaan liittovaltion laki ei saisi syrjäyttää osavaltioiden lakeja, ellei se ole vähintään yhtä tiukka kuin linjapaperin vahvimmat ehdotukset. Kalifornian kaltaiset osavaltiot säilyttäisivät siis oikeutensa säätää omia lakejaan.
Mitä EU:n tekoälyasetus jo vaatii
Yleiskäyttöisten tekoälymallien tarjoajien velvoitteet ovat olleet voimassa elokuusta 2025. Jos mallin koulutukseen on käytetty yli 10²⁵ laskutoimitusta, mallin oletetaan aiheuttavan systeemistä riskiä. Raja on siis sama kuin Anthropicin ehdotuksessa. Tällaisen mallin tarjoajan on arvioitava ja testattava mallinsa, raportoitava vakavista vaaratilanteista ja huolehdittava kyberturvallisuudesta.
Suomessa tekoälyasetusta valvoo pääasiassa Traficom. Kiellettyjä tekoälykäytäntöjä koskevat säännöt ja tekoälylukutaitovelvoite ovat olleet voimassa helmikuusta 2025.
