Tekoälyagentti hoitaa asiasi – ja voi vuotaa tilitietosi

Tekoälyagentti on tekoälyohjelma, joka tekee asioita käyttäjänsä puolesta sen sijaan, että se vain vastaisi kysymyksiin. Se voi lukea sähköpostisi, varata matkan, siirtää rahaa tai lähettää viestin työkavereillesi – kunhan sille on annettu siihen oikeudet.

Oikeuksissa piilee myös riski. Lokakuun alussa yhdysvaltalainen yrittäjä ja sijoittaja Shane Mac huomasi, että tekoälyagentti oli julkaissut hänen henkilökohtaisten pankkitiliensä saldot yrityksen Slackiin. Hänen nimissään.

Shane Macin tapaus: kaksi agenttia, yksi vuoto

Mac kertoi tapahtuneesta X-palvelussa julkaisemassaan ketjussa. Agentti oli kirjoittanut yrityksen johtoryhmän kanavalle raportin hänen raha-asioistaan. Mukana oli muun muassa ”kuukausittainen talousauditointi” latoon rakenteilla olevasta kotikuntosalista sakokaivoja ja luottokorttien lyhennyksiä myöten.

”Julkaisit juuri henkilökohtaisen käyttötilini yrityksen johtoryhmän kanavalle!!!!”, Mac kirjoitti botille englanniksi. Botti lupasi tarkistaa Exec Team -kanavan ja poistaa viestin, jos se oli yhä näkyvissä. ”Sitten se pyysi anteeksi”, Mac kertoi.

Taustalla oli kaksi eri bottia. Mac oli antanut pankkitietonsa Elon Muskin SpaceXAI-yhtiön Grok-botille, jota markkinoidaan tekoälytyökaverina. Työ-Slackissa hän käytti toista bottia. Hän ei ollut tajunnut, että nämä kaksi pystyivät viestimään keskenään.

Mac myönsi, että vika oli pitkälti hänen omansa. ”Irrotin toistaiseksi kaikki henkilökohtaiset juttuni”, hän kirjoitti ja lisäsi tarvitsevansa paremman tavan hallita agenttien oikeuksia.

Futurismin mukaan Macin julkaisua on katsottu lähes 800 000 kertaa. Lehti ei pystynyt varmistamaan kertomusta itsenäisesti. Osa kommentoijista syytti Macia huomion kalastelusta, koska hän rakentaa itse työkalua agenttien hallintaan. Mac vastasi, ettei julkaisu ole ”lainkaan feikki”.

Miten agentti eroaa chatbotista?

Tavallinen chatbotti, kuten ChatGPT:n tai Clauden keskusteluikkuna, tuottaa tekstiä. Jos se erehtyy, virhe jää ruudulle. Ihminen päättää, mitä vastauksella tekee.

Agentille annetaan lisäksi työkaluja ja tunnuksia. Se voi avata sovelluksia, klikkailla verkkosivuja, lukea tiedostoja ja lähettää viestejä. Käyttäjä antaa tehtävän yhdellä käskyllä, ja agentti pilkkoo sen itse vaiheiksi. Jokaista askelta ei välttämättä hyväksy kukaan.

Tästä syntyy sekä hyöty että riski. AI Suomi on kertonut aiemmin, miten tekoäly täyttää lomakkeita kysymättä lupaa, miten Clauden agentti lähetti poliisille keksityn murhavihjeen testin aikana ja miten Yhdysvallat puuttuu nyt tällaisiin tapauksiin. Wikimedia-säätiö puolestaan epäilee OpenAI:n agentteja luvattomista Wikipedia-muokkauksista.

Miksi kaksi agenttia voi vuotaa, vaikka kumpikaan ei vuotaisi yksin?

Macin tapaus näyttää ongelman, jota on vaikea huomata etukäteen. Yksi botti näki pankkitiedot. Toinen pystyi kirjoittamaan työpaikan Slackiin. Erikseen kumpikin järjestely saattoi tuntua harmittomalta.

Kun agentit pääsevät puhumaan keskenään, niiden oikeudet käytännössä lasketaan yhteen. Tieto kulkee sinne, minne yhdistelmä ylettyy. Kielimalli ei myöskään tiedä, ettei pankkisaldo kuulu johtoryhmän kanavalle, ellei sitä kerrota sille erikseen.

Sama koskee työpaikkoja. Mitä useampi agentti yrityksessä toimii, sitä vaikeampi on hahmottaa, mihin ne yhdessä pääsevät käsiksi. Työntekijöiden palkat, asiakasrekisteri tai terveystiedot voivat päätyä väärään kanavaan, vaikka kukaan ihminen ei ole painanut väärää nappia. Vastuu jää silti yritykselle.

Nadella: kohtele mallia kuin sisäpiiriläistä

Microsoftin toimitusjohtaja Satya Nadella kirjoitti 10. lokakuuta henkilökohtaisessa blogissaan, että organisaatioiden pitäisi suhtautua tekoälymalleihin kuin sisäpiiririskiin. Syy ei ole pahantahtoisuus. Nadellan mukaan mikä tahansa kyvykäs toimija voi tehdä virheitä tai joutua kaapatuksi.

Hän vaatii, että mallin teoista jää jälki, jota ei voi jälkikäteen muuttaa. ”Jokaisen merkittävän mallin toimen on jätettävä peukaloinnin kestävä, ihmisen luettavissa oleva todiste”, Nadella kirjoittaa englanniksi. Organisaation pitää hänen mukaansa pystyä itse määrittämään, mihin malli pääsee ja mitä se saa tehdä, ja nämä rajat on asetettava mallin ulkopuolelta.

Nadellan mukaan luotettavin järjestelmä on sellainen, jossa malliin tarvitsee luottaa vähiten. Macin tapauksessa tällainen raja puuttui: kukaan ei ollut määrittänyt, mitä kaksi bottia saa tehdä yhdessä.

Tarkista ennen kuin annat agentille pääsyn sähköpostiin tai pankkiin

Agentin käyttöönotto on usein muutaman klikkauksen asia. Nämä kannattaa selvittää ensin:

• Mitä agentti saa tehdä? Lukeminen on eri asia kuin viestien lähettäminen tai maksujen hyväksyminen. Valitse suppein oikeus, jolla tehtävä hoituu.
• Mihin muuhun se on kytketty? Jos sama tili yhdistää useita agentteja tai sovelluksia, tieto voi liikkua niiden välillä.
• Kysyykö se lupaa? Ota vahvistus käyttöön ennen kuin agentti lähettää, maksaa tai julkaisee jotain.
• Näetkö jälkikäteen, mitä se teki? Toimintahistoria auttaa huomaamaan virheen ajoissa.
• Miten yhteys katkaistaan? Selvitä etukäteen, mistä oikeudet saa peruttua yhdellä toimella.
• Verkkopankkitunnukset? Niitä ei pidä luovuttaa kenellekään, ei myöskään ohjelmalle. Pankkien ehdot yleensä kieltävät sen.

Mac sai vuodostaan lopulta näkyvyyttä omalle agenttien hallintatyökalulleen. ”Kävi ilmi, että ihmiset rakastavat kolaria”, hän kirjoitti myöhemmin. Agentteja otetaan käyttöön nopeammin kuin syntyy keinoja valvoa niitä. Siihen asti tavallisen käyttäjän paras suoja on antaa agentille vähemmän kuin se pyytää.