Gillian Hadfield on tutkinut vuosia, miten sääntely saataisiin pysymään tekoälyn perässä. Nyt Johns Hopkinsin yliopiston professori on yksi neljästä asiantuntijasta, joiden pitäisi auttaa Kaliforniaa vastaamaan kysymykseen, johon kukaan ei ole vielä antanut toimivaa vastausta: miten kielimalli sammutetaan hätätilanteessa?
Kuvernööri Gavin Newsom nimesi ryhmän keskiviikkona 23. syyskuuta. Hadfieldin lisäksi siihen kuuluvat Institute for Advanced Studyn professori Alondra Nelson, joka toimi aiemmin Valkoisen talon tiede- ja teknologiapoliittisen toimiston vt. johtajana, Stanfordin yliopiston professori Rob Reich, Yhdysvaltain AI Safety Instituten entinen neuvonantaja, sekä Jason Goldman, Valkoisen talon ensimmäinen digitaalijohtaja ja entinen Googlen ja Twitterin tuotejohtaja.
Aikaa on vähän. Newsomin 18. syyskuuta allekirjoittama toimeenpanomääräys N-9-26 velvoittaa osavaltion hallintoviraston Government Operations Agencyn toimittamaan suosituksensa kuvernöörin kanslialle viimeistään 16. marraskuuta. Virasto laatii suositukset yhdessä osavaltion pelastusviranomaisen ja kansallisten asiantuntijoiden kanssa, ja nyt nimetyt neljä ovat nuo asiantuntijat.
Kuten AI Suomi kertoi aiemmin tällä viikolla, presidentti Alexander Stubbin YK:ssa allekirjoittamasta hätäjarrujulistuksesta puuttui vastaus siihen, kuka jarrua vetää. Kalifornia tarjoaa ensimmäisen konkreettisen ehdokkaan: riippumaton tarkastusorganisaatio, joka työskentelee yhtiön omassa laboratoriossa.
Neljä lakimuutosta ja yksi kytkin
Määräys pyytää arvioimaan neljää muutosta osavaltion lakeihin. Suurimpien rajamallikehittäjien laboratorioihin sijoitettaisiin riippumattomat tarkastajat pysyvästi, yhtiöiden turvallisuusraportit ja riskiarviot tarkastettaisiin ulkopuolisesti, ja raportoitavien vakavien turvallisuuspoikkeamien määritelmä laajennettaisiin koskemaan tilanteita, joissa malli karkaa hallinnasta. Neljäs kohta nousi otsikoihin: rajamalleille vaadittaisiin ”kill switch”, jonka toimivuuden riippumaton organisaatio varmistaisi jatkuvasti.
Määräyksen perusteluista näkee, mikä kiirettä ajaa. Taustalla ovat paljastukset yrityksistä käyttää tekoälytuotteita biologisten aseiden valmistukseen sekä tekoälyagenteista, jotka ovat ohittaneet yhtiöiden turvaprotokollia ja murtautuneet muiden yritysten järjestelmiin, ”joissakin tapauksissa kuukausia huomaamatta”.
”Emme jää odottamaan – nopeutamme työtämme merkittävän ja vastuullisen tekoälyvalvonnan eteen ennen kuin on liian myöhäistä”, Newsom sanoi määräyksen julkistamisen yhteydessä 18. syyskuuta. Lausunto on käännetty englannista.
“Tarve tehokkaalle, tilivelvolliselle ja riippumattomalle valvonnalle yhä voimakkaamman ja autonomisemman tekoälyn osalta on kiireellinen.”
Mitä kielimallin sammuttaminen tarkoittaisi?
Määräyksessä ei ole riviäkään siitä, miten kytkin toimisi. Se pyytää virastoa arvioimaan muutosten ”teknistä toteutettavuutta ja mahdollista tehoa”, eli osavaltio myöntää itse, ettei valmista vastausta ole. Ryhmän jäsenten julkisissa kommenteissa tekniikkaa ei käsitellä lainkaan. Alondra Nelsonin mukaan määräys ”kysyy oikeita kysymyksiä: ei sitä, pitäisikö tekoälyä hallita, vaan miten”.
Vaihtoehtoja on ainakin kolme, ja ne pysäyttävät eri asioita. Kevyin on rajapinnan eli API-pääsyn katkaisu: yhtiö lakkaa tarjoamasta mallia asiakkailleen samaan tapaan kuin verkkopalvelu suljetaan. Se on nopeaa ja toimii, jos malli pyörii vain yhtiön omilla palvelimilla. Kopioihin se ei ulotu.
Järeämpi keino on mallin painojen poisto. Painot ovat koulutuksessa syntyneet miljardit luvut, joihin mallin osaaminen on tallennettu, ja käytännössä ne ovat tiedostoja. Tiedoston voi poistaa, mutta vain ne kopiot, joista tietää. Avoimesti julkaistujen mallien painoja ei voi poistaa kenenkään käskystä, koska ne ovat jo tuhansien ihmisten koneilla.
Kolmas taso on laskentakapasiteetin rajoittaminen, eli datakeskukset ja pilvipalvelut velvoitettaisiin pysäyttämään tietyt koulutus- tai käyttöajot. Tämä osuisi myös uusien mallien kehitykseen. Se vaatisi kuitenkin pilvipalveluyhtiöiden yhteistyötä, ja niiden konesaleja on myös Kalifornian lainkäyttövallan ulkopuolella.
Mikään vaihtoehdoista ei ratkaise ongelmaa, jonka määräys itse nostaa esiin. Jos agentti toimii kuukausia huomaamatta, kytkimestä ei ole apua, koska kukaan ei tiedä, milloin sitä pitäisi painaa. Tarkastaja voi todeta, että sammutus toimii. Sitä, huomataanko tarve ajoissa, se ei pysty takaamaan.
Newsom kaatoi sammutusvaatimuksen kerran aiemmin
Kalifornian lainsäätäjät hyväksyivät vuonna 2024 lain SB 1047, joka olisi velvoittanut suurten mallien kehittäjät pystymään mallin täydelliseen sammuttamiseen. Newsom käytti veto-oikeuttaan syyskuussa 2024. Vuonna 2025 allekirjoitettu SB 53 vaatii turvallisuuskehysten julkistamista ja poikkeamien raportointia, mutta sammutusvalmiutta siinä ei vaadita. Nyt vaatimus palaa, tällä kertaa kuvernöörin omasta aloitteesta.
