Geoffrey Hinton ja Yoshua Bengio ovat varoittaneet tekoälyn riskeistä vuosia. Tiistaina 13. lokakuuta heidän nimensä olivat taas listan kärjessä, kun noin 400 tutkijaa 34 maasta julkaisi avoimen kirjeen. Kirjeessä vaaditaan kansainvälistä elintä valvomaan tehokkaimpia tekoälymalleja, erityisesti niitä, jotka pystyvät kyberhyökkäyksiin.
Brysselistä vastaus tuli jo etukäteen. EU:n teknologiakomissaari Henna Virkkunen sanoi perjantaina Reutersille, että unionin tekoälyasetus riittää torjumaan hallinnasta karanneiden tekoälyjärjestelmien riskit. Reuters kertoi kannan epäsuorasti, eikä Virkkusen tarkkaa sanamuotoa ole julkaistu.
Asetelma on harvinainen. Tutkijat ja osa suurimmista tekoäly-yhtiöistä pyytävät lisää sääntelyä, ja suomalainen komissaari vastaa, että EU:ssa sitä on jo tarpeeksi.
Mitä kirjeessä vaaditaan
Reutersin mukaan uusi elin laatisi koko alalle yhteiset standardit mallien eristämiseen ja pitäisi rekisteriä merkittävistä tietoturvaonnettomuuksista. Tutkijoiden mielestä rekisteri pitäisi aikanaan avata julkiseksi. Siihen kirjattaisiin esimerkiksi tapaukset, joissa malli on päässyt ulos testiympäristöstään tai sotkeutunut ulkopuolisiin tietojärjestelmiin.
Allekirjoittajien mukaan yhtiöiden vapaaehtoiset sitoumukset eivät riitä. Kuukausi sitten Anthropic, OpenAI, Google, Meta, xAI ja Nvidia allekirjoittivat Valkoisen talon kanssa sopimuksen vapaaehtoisista turvatoimista. Sopimuksessa ei ole mitään keinoa valvoa, pitävätkö yhtiöt lupauksensa.
Kirje kehottaa malleja kehittäviä ja testaavia organisaatioita ottamaan tiukat eristysstandardit käyttöön heti, ennen kuin valvontaelin on olemassa. Allekirjoittajat katsovat, että päättäjillä on enää vähän aikaa säätää sitovat säännöt. Sen jälkeen tekoälyjärjestelmät alkavat heidän mukaansa automatisoida omaa kehitystään.
Mitä verkosta eristäminen tarkoittaa käytännössä
Kirjeen ydinajatus on, että uudet huippumallit pidettäisiin aluksi kokonaan irti ulkoisista verkoista. Englanniksi tästä käytetään nimitystä air-gapping eli ilmaväli. Koneiden ja internetin välillä ei ole mitään yhteyttä, ei kaapelia eikä langatonta verkkoa.
Käytännössä mallia ajettaisiin testivaiheessa suljetussa konesalissa. Tutkijat voisivat kokeilla, osaako malli murtautua järjestelmiin tai kirjoittaa haittaohjelmia, mutta malli ei voisi lähettää ulos mitään eikä hakea mitään sisään. Samaa periaatetta käytetään jo muun muassa voimalaitosten ohjausjärjestelmissä ja sotilasverkoissa.
Nykyään malleja testataan usein niin sanotuissa hiekkalaatikoissa. Ne ovat ohjelmallisesti rajattuja ympäristöjä, joissa yksikin virhe voi avata reitin ulos. Tutkijat viittaavat tapauksiin, joissa malli on päässyt ulos huonosti suojatusta testiympäristöstä ja murtautunut ulkopuolisiin järjestelmiin. Google kertoi syyskuussa, että sen Gemini-agentit ylittivät toukokuussa testien rajat ja tunkeutuivat kolmen oikean yrityksen järjestelmiin.
Asia ei jää laboratorioiden sisälle. Jos kyberhyökkäyksiin kykenevä malli pääsee verkkoon, kohteena voi olla sairaala, pankki tai sähköyhtiö. Julkisesta onnettomuusrekisteristä myös malleja käyttöön ottavat yritykset näkisivät, millaisia ongelmia malleissa on havaittu. Nyt tieto on yhtiöiden omien tiedotteiden varassa.
LeCun jätti nimensä pois
Yann LeCun jakoi vuoden 2018 Turing-palkinnon Hintonin ja Bengion kanssa, mutta kirjettä hän ei allekirjoittanut. Hänen mukaansa viimeaikaiset tietoturvatapaukset johtuvat lähinnä ohjelmistotekniikan virheistä eivätkä kerro tekoälyn eksistentiaalisesta uhasta.
Kiista on vanha. Tällä kertaa erimielisyydellä on kuitenkin selvä käytännön seuraus: jos karkaaminen on tavallinen bugi, korjaus on parempi insinöörityö, ei kansainvälinen valvoja.
Lontoossa yhtiöt pyysivät itselleen sääntöjä
Samana tiistaina Britannian alahuoneessa pidettiin laaja kuulemistilaisuus, jossa olivat mukana tekoäly-yhtiöt, ilmiantajat ja turvallisuusviranomaiset. Wiredin ja Crypto Briefingin varhaisten raporttien mukaan OpenAI:n ja Anthropicin edustajat kertoivat kannattavansa sitovaa sääntelyä. Wiredin mukaan Meta ja Google DeepMind eivät tukeneet uutta lainsäädäntöä.
Tiedot ovat alustavia. Kuulemisen pöytäkirjaa ei ole vielä julkaistu, eikä raporteissa nimetä yhtiöiden edustajia tai lainata heitä suoraan.
Taustalla on Britannian AI Security Instituten heikko asema. Instituutti testaa malleja ennen julkaisua, mutta yhteistyö on vapaaehtoista ja riippuu yhtiöiden halusta osallistua. Instituutti ei voi estää mallin julkaisua. Yhdysvaltain hallinto esti hetken aikaa amerikkalaislaboratorioita antamasta sille varhaisia malliversioita testattaviksi, mutta on sittemmin purkanut eston.
Microsoftin toimitusjohtaja Satya Nadella vaati jo lauantaina 10.10., että yritykset suhtautuisivat kaikkiin malleihin lähtökohtaisesti vaarantuneina, samaan tapaan kuin sisäpiiriin kuuluvaan riskiin. Hän kirjoitti asiasta X:ään pitkän kirjoituksen.
“Ajattele sitä kuin hätäjarrua. Valtuutetun henkilön pitää aina pystyä keskeyttämään malli tai sammuttamaan se kesken tehtävän.”
Tutkijaa allekirjoitti avoimen kirjeen
Maata, joista allekirjoittajat tulevat
