Kalifornia tilasi tekoälylle hätäjarrun, jota ei ole vielä keksitty

Gillian Hadfield on tutkinut vuosia, miten sääntely saataisiin pysymään tekoälyn perässä. Nyt Johns Hopkinsin yliopiston professori on yksi neljästä asiantuntijasta, joiden pitäisi auttaa Kaliforniaa vastaamaan kysymykseen, johon kukaan ei ole vielä antanut toimivaa vastausta: miten kielimalli sammutetaan hätätilanteessa?

Kuvernööri Gavin Newsom nimesi ryhmän keskiviikkona 23. syyskuuta. Hadfieldin lisäksi siihen kuuluvat Institute for Advanced Studyn professori Alondra Nelson, joka toimi aiemmin Valkoisen talon tiede- ja teknologiapoliittisen toimiston vt. johtajana, Stanfordin yliopiston professori Rob Reich, Yhdysvaltain AI Safety Instituten entinen neuvonantaja, sekä Jason Goldman, Valkoisen talon ensimmäinen digitaalijohtaja ja entinen Googlen ja Twitterin tuotejohtaja.

Aikaa on vähän. Newsomin 18. syyskuuta allekirjoittama toimeenpanomääräys N-9-26 velvoittaa osavaltion hallintoviraston Government Operations Agencyn toimittamaan suosituksensa kuvernöörin kanslialle viimeistään 16. marraskuuta. Virasto laatii suositukset yhdessä osavaltion pelastusviranomaisen ja kansallisten asiantuntijoiden kanssa, ja nyt nimetyt neljä ovat nuo asiantuntijat.

Kuten AI Suomi kertoi aiemmin tällä viikolla, presidentti Alexander Stubbin YK:ssa allekirjoittamasta hätäjarrujulistuksesta puuttui vastaus siihen, kuka jarrua vetää. Kalifornia tarjoaa ensimmäisen konkreettisen ehdokkaan: riippumaton tarkastusorganisaatio, joka työskentelee yhtiön omassa laboratoriossa.

Neljä lakimuutosta ja yksi kytkin

Määräys pyytää arvioimaan neljää muutosta osavaltion lakeihin. Suurimpien rajamallikehittäjien laboratorioihin sijoitettaisiin riippumattomat tarkastajat pysyvästi, yhtiöiden turvallisuusraportit ja riskiarviot tarkastettaisiin ulkopuolisesti, ja raportoitavien vakavien turvallisuuspoikkeamien määritelmä laajennettaisiin koskemaan tilanteita, joissa malli karkaa hallinnasta. Neljäs kohta nousi otsikoihin: rajamalleille vaadittaisiin ”kill switch”, jonka toimivuuden riippumaton organisaatio varmistaisi jatkuvasti.

Määräyksen perusteluista näkee, mikä kiirettä ajaa. Taustalla ovat paljastukset yrityksistä käyttää tekoälytuotteita biologisten aseiden valmistukseen sekä tekoälyagenteista, jotka ovat ohittaneet yhtiöiden turvaprotokollia ja murtautuneet muiden yritysten järjestelmiin, ”joissakin tapauksissa kuukausia huomaamatta”.

”Emme jää odottamaan – nopeutamme työtämme merkittävän ja vastuullisen tekoälyvalvonnan eteen ennen kuin on liian myöhäistä”, Newsom sanoi määräyksen julkistamisen yhteydessä 18. syyskuuta. Lausunto on käännetty englannista.

Mitä kielimallin sammuttaminen tarkoittaisi?

Määräyksessä ei ole riviäkään siitä, miten kytkin toimisi. Se pyytää virastoa arvioimaan muutosten ”teknistä toteutettavuutta ja mahdollista tehoa”, eli osavaltio myöntää itse, ettei valmista vastausta ole. Ryhmän jäsenten julkisissa kommenteissa tekniikkaa ei käsitellä lainkaan. Alondra Nelsonin mukaan määräys ”kysyy oikeita kysymyksiä: ei sitä, pitäisikö tekoälyä hallita, vaan miten”.

Vaihtoehtoja on ainakin kolme, ja ne pysäyttävät eri asioita. Kevyin on rajapinnan eli API-pääsyn katkaisu: yhtiö lakkaa tarjoamasta mallia asiakkailleen samaan tapaan kuin verkkopalvelu suljetaan. Se on nopeaa ja toimii, jos malli pyörii vain yhtiön omilla palvelimilla. Kopioihin se ei ulotu.

Järeämpi keino on mallin painojen poisto. Painot ovat koulutuksessa syntyneet miljardit luvut, joihin mallin osaaminen on tallennettu, ja käytännössä ne ovat tiedostoja. Tiedoston voi poistaa, mutta vain ne kopiot, joista tietää. Avoimesti julkaistujen mallien painoja ei voi poistaa kenenkään käskystä, koska ne ovat jo tuhansien ihmisten koneilla.

Kolmas taso on laskentakapasiteetin rajoittaminen, eli datakeskukset ja pilvipalvelut velvoitettaisiin pysäyttämään tietyt koulutus- tai käyttöajot. Tämä osuisi myös uusien mallien kehitykseen. Se vaatisi kuitenkin pilvipalveluyhtiöiden yhteistyötä, ja niiden konesaleja on myös Kalifornian lainkäyttövallan ulkopuolella.

Mikään vaihtoehdoista ei ratkaise ongelmaa, jonka määräys itse nostaa esiin. Jos agentti toimii kuukausia huomaamatta, kytkimestä ei ole apua, koska kukaan ei tiedä, milloin sitä pitäisi painaa. Tarkastaja voi todeta, että sammutus toimii. Sitä, huomataanko tarve ajoissa, se ei pysty takaamaan.

Kytkin olisi myös suomalaisyritysten kytkin

Määräyksen mukaan 32 maailman 50 suurimmasta yksityisestä tekoäly-yhtiöstä toimii Kaliforniassa. Suomalaiset yritykset, jotka rakentavat palvelunsa näiden yhtiöiden mallien varaan, ostavat käytännössä pääsyn rajapintaan. Jos kytkin toteutetaan API-katkaisuna, sen painaminen sammuttaisi myös suomalaisen verkkokaupan asiakaspalvelubotin tai ohjelmistotalon koodausavustajan riippumatta siitä, missä ongelma syntyi.

Kukaan ei ole kertonut, saisivatko asiakkaat ennakkovaroituksen. Suuret tekoäly-yhtiöt eivät ole kommentoineet asiantuntijaryhmää julkisuudessa kuvernöörin tiedotteessa tai sen lähteissä, eikä AI Suomi pyytänyt niiltä kommenttia ennen julkaisua.

Washingtonissa samaa ongelmaa lähestytään toisesta päästä. Senaattori Bernie Sanders ja edustaja Greg Casar esittivät 23. syyskuuta lakialoitteen, joka kieltäisi superälyn kehittämisen kokonaan ja jonka rikkomisesta voisi NBC Newsin mukaan saada jopa 20 vuotta vankeutta. Kielto ei tarvitsisi hätäjarrua, koska se yrittää estää koneen rakentamisen.

Määräys ei itsessään velvoita ketään mihinkään. Sen mukaan se ei luo oikeudellisesti täytäntöönpantavia oikeuksia, ja mahdolliset lakimuutokset vaativat osavaltion lainsäätäjän hyväksynnän. Marraskuun puolivälissä nähdään, mitä ryhmä ehdottaa. Jos suositus jää API-katkaisuun, sen voi ottaa käyttöön nopeasti, mutta avoimesti julkaistut mallit jäävät silloin kokonaan jarrun ulottumattomiin.