Kuvitellaan tilanne: washingtonilaisen tuomarin pöydälle tulee kiireellinen hakemus. Yhdysvaltain kauppaministeriö pyytää kieltämään uuden tekoälymallin julkaisun, koska riippumaton arvioija on todennut, että malli voisi auttaa biologisen aseen rakentamisessa. Juuri tällaista järjestelmää Anthropic nyt tarjoaa Yhdysvaltain kongressille.
Politico kertoi lakiluonnoksesta ensimmäisenä 16. lokakuuta, ja TechCrunchin toimittaja Lucas Ropek kävi sen läpi 20. lokakuuta. Anthropicin tiedottaja vahvisti luonnoksen Politicolle. TechCrunchin kysymyksiin yhtiö ei heti vastannut.
Raja on 50 ihmishenkeä
Luonnoksen mukaan mallin julkaisu voitaisiin estää, jos siitä aiheutuu ennakoitava ja välitön riski yli 50 ihmisen kuolemasta tai yli miljardin dollarin omaisuusvahingoista. Riskin pitää myös syntyä tietyllä tavalla: biologisen aseen tai kyberhyökkäyksen kautta tai siten, että malli pääsee kehittäjänsä valvonnasta.
Riskit arvioisivat riippumattomat arvioijat, jotka rekisteröityisivät kauppaministeriöön. Jos arvioija havaitsisi välittömän katastrofiriskin, sen pitäisi ilmoittaa ministeriölle 72 tunnin kuluessa. Ministeriö ei kuitenkaan voisi pysäyttää mallia itse. Sen pitäisi pyytää kieltoa Washington D.C.:n tuomioistuimelta, ja luonnos kieltää nimenomaisesti kaikkia liittovaltion virastoja pysäyttämästä mallin levitystä omin päin.
Lukuja ei ole keksitty tyhjästä. Sama raja, yli 50 kuolemaa tai yli miljardi dollaria, on Kalifornian SB 53 -laissa, jonka kuvernööri Gavin Newsom allekirjoitti syyskuussa 2025. Anthropicin kesäkuussa julkaisema Advanced AI Framework -linjapaperi suosittaa katastrofiriskille juuri Kalifornian lain mukaista määritelmää.
“Luonnos edustaa Anthropicin Advanced AI Framework -linjapaperissa esitettyjä ehdotuksia.”



