Google DeepMind on alkanut pohtia tilannetta, jota ei vielä ole olemassa mutta joka voi syntyä nopeasti. Mitä tapahtuu, kun miljoonat eri organisaatioiden tekoälyagentit alkavat neuvotella, sopia ja tehdä kauppaa keskenään ilman, että yksikään ihminen seuraa vierestä?
Yhtiön tekoälyturvallisuudesta vastaava Rohin Shah kutsuu ilmiötä kokonaan uudeksi riskiluokaksi. Kun agentit eivät enää pelkästään vastaa ihmisen pyyntöihin vaan tottelevat toistensa ohjeita, syntyy verkosto, jonka käyttäytymistä kukaan ei täysin hallitse.
Mikä uudessa riskiluokassa on uutta
Yksittäisen agentin riskit ovat jo tuttuja. Se voi tulkita ohjeen väärin tai joutua harhautetuksi. Uutta on se, mitä tapahtuu agenttien välissä. Kun agentti antaa toimeksiannon toiselle agentille, virhe tai huijaus voi levitä ketjussa eteenpäin ilman, että ihminen ehtii tarkistaa mitään.
Kuvitellaan, että yrityksen hankinta-agentti neuvottelee hinnasta toimittajan myyntiagentin kanssa. Molemmat optimoivat omaa tehtäväänsä, mutta kumpikaan ei kysy lupaa ihmiseltä ennen sopimusta. Jos toinen agentti on kaapattu tai sille on syötetty harhaanjohtava ohje, väärä päätös syntyy sekunneissa ja voi ketjuuntua tuhansiin muihin agentteihin.
“Suurin ongelma on, ettei moniagenttijärjestelmien turvallisuudesta ole vielä olemassa varsinaista tutkimusalaa.”
Kymmenen miljoonan panostus
DeepMind on käynnistänyt 10 miljoonan dollarin rahoitusohjelman, jonka tavoite on rakentaa tämä puuttuva tutkimusala. Rahalla selvitetään, miten useiden agenttien järjestelmät käyttäytyvät ja millaisia suojamekanismeja ne tarvitsevat ennen kuin niitä otetaan käyttöön laajassa mitassa.
Kumppaneina ovat tiederahoittaja Schmidt Sciences, Britannian valtion innovaatiovirasto ARIA, brittiläinen Cooperative AI Foundation -järjestö sekä Googlen hyväntekeväisyyshaara Google.org. Joukko kertoo siitä, ettei kyse ole pelkästä yritysprojektista vaan yrityksestä luoda yhteistä pohjaa alalle, jota ei vielä ole.
Konkreettiset uhkakuvat
Tutkijat nostavat esiin kolme jo nähtävissä olevaa vaaraa. Petokset ja huijaukset voivat skaalautua agenttiverkostossa massiivisiksi. Syötetyt harhautukset, niin sanotut prompt-injektiot, voivat kääntää agentin haittaohjelmaksi. Lisäksi agentit voivat koordinoida kyberhyökkäyksiä keskenään. James Fox varoittaa, että ilman pelisääntöjä jaetuista digitaalisista resursseista voi tulla täydellistä anarkiaa.
Miksi tämä koskettaa tavallista käyttäjää
Agentit eivät jää laboratorioon. Niitä rakennetaan jo varaamaan matkoja, hoitamaan asiakaspalvelua ja tekemään ostoksia puolesta. Jos oma agenttisi neuvottelee verkkokaupan agentin kanssa, sinun pitää voida luottaa siihen, ettei kumpaakaan ole huijattu. Kyberturvallisuusasiantuntija Refael Angelin mukaan agentit eroavat tavallisesta ohjelmistosta siinä, että ne päättelevät, improvisoivat ja ne voidaan kaapata.
Mittakaava tekee ongelmasta vakavan. Yksittäinen huijaus on hallittavissa, mutta kun sama harhautus monistuu miljooniin agentteihin, petokset skaalautuvat tavalla, jota nykyiset suojakeinot eivät pysäytä. Tavallisen kuluttajan kannalta se tarkoittaa, että luottamus automaattisiin palveluihin riippuu suojista, joita vasta nyt aletaan rakentaa.
Sanasto
Prompt-injektio
Hyökkäys, jossa tekoälylle syötetään piilotettu ohje, joka saa sen toimimaan hyökkääjän haluamalla tavalla alkuperäisen tehtävän sijaan. Vähän kuin huijattaisiin avustaja noudattamaan väärennettyä lappua.
Aika käy vähiin
Shahin mukaan riskit muuttuvat akuuteiksi kuukausien, eivät vuosien sisällä. Se selittää kiireen: tutkimusala pitäisi saada pystyyn ennen kuin agenttiverkostot ovat jo arkipäivää. Panostus on siis pikemminkin yritys ehtiä ongelman edelle kuin reaktio jo tapahtuneeseen.
Avoimeksi jää vastuukysymys, johon rahallakaan ei vielä ole vastausta. Jos kaksi agenttia tekee virheellisen sopimuksen keskenään, kuka kantaa seuraukset: käyttäjä, agentin rakentaja vai sitä isännöivä yhtiö? Tämä on se kohta, jossa tekninen turvallisuustutkimus ja lainsäädäntö joutuvat lopulta kohtaamaan.
Viikoittainen uutiskirje
Tule firmasi fiksuimmaksi AI-osaajaksi
Yksi uutiskirje kerrallaan. Kokoamme viikon tärkeimmät tekoälyuutiset suomeksi ja kerromme, mitä ne tarkoittavat sinun työsi kannalta. Luet sen kahvitauolla.
