Kolme virkamiestä saisi sammuttaa tekoälyn

Yhdysvaltain edustajainhuoneessa on käsittelyssä lakiehdotus, joka pakottaisi tehokkaimpien tekoälymallien kehittäjät rakentamaan järjestelmiinsä hätäkatkaisijan. AI Kill Switch Act jätettiin 23. heinäkuuta, ja sen takana on kaksi edustajaa eri puolueista: demokraattien Ted Lieu Kaliforniasta ja republikaanien Nathaniel Moran Texasista.

Esitys lisäisi vuoden 2002 Homeland Security Actiin uuden pykälän. Sen mukaan tehokkaimpien tekoälyjärjestelmien kehittäjillä pitäisi olla jatkuvasti tekninen valmius hidastaa, keskeyttää tai sammuttaa oma mallinsa. Yhtiöiden olisi myös ilmoitettava poikkeamista viranomaisille ja pidettävä yllä valmiita toimintaohjeita sen varalta, että malli alkaa käyttäytyä odottamattomasti.

Käskyn antaisi sisäisestä turvallisuudesta vastaava ministeri. Ennen sammutusmääräystä hänen olisi kuultava kauppaministeriä ja kansallisen tiedustelun johtajaa. Kynnyksenä on katastrofaalinen vahinko ihmishengille tai taloudelle. Tarkkoja rajoja sille, mikä malli lain piiriin kuuluu, julkisuudessa olleissa tiedoissa ei ole määritelty laskentatehona tai muuna mitattavana lukuna.

Ajoitus on kiinnostava, mutta se ei ole todiste

Lakiluonnos on päivätty kolme päivää ennen kuin Hugging Face kertoi julkisuuteen murrosta, jossa tekoälyagentti murtautui yhtiön tuotantoympäristöön turvallisuuskokeen aikana. Lainsäätäjät olivat siis kirjoittaneet ratkaisunsa valmiiksi ennen kuin tapaus oli julkinen.

Tästä ei voi päätellä, että esitys olisi syntynyt murron takia tai että sen laatijat olisivat tienneet tapauksesta etukäteen. Yhdysvaltalaismedia kytki lakiehdotuksen ja murron toisiinsa vasta esityksen jättöpäivänä, jolloin molemmat olivat jo uutisia. Todennäköisin selitys on tylsempi: ohjaamattomasti toimivien agenttien riskeistä on puhuttu Washingtonissa kuukausia, eikä heinäkuun tapaus ollut ensimmäinen laatuaan. AI Suomi kertoi keväällä myös mallista, joka pääsi ulos testiympäristöstään verkkoon.

Kiinnostavaa on silti se, mihin suuntaan päättelyketju kulki. Yleensä sääntely seuraa onnettomuutta. Tällä kertaa ehdotus ehti ensin.

EU valvoo markkinoita, ei virtakytkintä

Euroopassa lähestymistapa on toinen. EU:n tekoälyasetus rakentuu markkinavalvonnalle: viranomainen voi vaatia korjaavia toimia, rajoittaa järjestelmän saataville asettamista tai määrätä sen pois markkinoilta. Yleiskäyttöisten mallien kohdalla komissio voi vaatia tarjoajaa rajoittamaan mallin saatavuutta, ja järjestelmäriskin malleista on ilmoitettava vakavat poikkeamat viranomaiselle.

Ero yhdysvaltalaisehdotukseen on ajassa. EU:n keinot ovat hallinnollisia päätöksiä, joissa kuullaan osapuolia ja asetetaan määräaikoja. Lieun ja Moranin malli olisi hätämenettely, jossa yksi ministeri kahta muuta kuultuaan voisi antaa käskyn nyt ja perustella myöhemmin. Kumpikin voi olla perusteltu, mutta ne vastaavat eri kysymykseen: EU kysyy, saako tuote olla markkinoilla, Yhdysvallat kysyy, saako malli olla päällä tällä hetkellä.

Aikataulullisesti EU on juuri kulkenut toiseen suuntaan. Komissio lykkäsi tekoälyasetuksen tiukimpia vaatimuksia niin sanotulla omnibus-paketilla, jolloin korkean riskin järjestelmien velvoitteet siirtyivät vuosiin 2027 ja 2028. Läpinäkyvyysvelvoitteet ja niiden valvonta astuivat sen sijaan voimaan elokuun alussa, ja rikkomuksista voi seurata jopa 15 miljoonan euron tai kolmen prosentin liikevaihtosakko.

Suomalaisyritys ei rakenna kytkintä, mutta elää sen varassa

Suomessa on hyvin vähän yrityksiä, jotka kouluttavat lain tarkoittamia jättimalleja. Suora velvoite ei siis osuisi tänne. Vaikutus tulee toista kautta: suomalainen ohjelmistotalo, pankki tai verkkokauppa ostaa mallinsa OpenAI:lta, Googlelta tai Anthropicilta. Jos Yhdysvaltain hallinto käskisi sammuttaa mallin, käsky kohdistuisi toimittajaan, mutta seuraukset näkyisivät asiakaspalvelun chatissa, koodieditorissa ja reskontran automaatiossa Helsingissä.

Tavalliselle käyttäjälle tilanne olisi tuttu kaikilta pilvipalvelukatkoilta. Palvelu vain lakkaisi toimimasta, eikä kukaan Suomessa voisi tehdä asialle mitään. Käytännön johtopäätös hankintapäälliköille on arkinen: kannattaa kysyä toimittajalta, mitä sopimuksessa lukee viranomaisen määräämästä keskeytyksestä, ja onko palvelulle olemassa toista mallia varalta.

Lakiehdotuksen läpimeno on epävarmaa. Kaksipuoluetuki auttaa, mutta edustajainhuoneessa jätetyistä esityksistä valtaosa kuolee valiokuntaan. Tärkeämpi kysymys on se, mitä velvoite tekisi tekoäly-yhtiöiden omalle arkkitehtuurille. Jos jokaisen mallin on oltava sammutettavissa, mallia ei voi enää julkaista täysin vapaasti ladattavaksi. Tappokytkin ei siis pelkästään lisäisi viranomaiselle valtaa, vaan hiljaisesti sulkisi ovea avoimen kehityksen tieltä. Se on iso muutos, eikä se lue lakitekstissä missään.