Torontolainen sisällöntuottaja Matt Robb arvostelee kuluttajateknologiaa työkseen. Syyskuun lopulla hän halusi kokeilla, miten Metan uusi tekoälyagentti Muse selviää arkisesta tehtävästä. Hän laittoi Facebook Marketplaceen myyntiin näppäimistön ja antoi agentin hoitaa kaupan.
Muse hoitikin. Se sopi kaupasta ostajan kanssa omin päin, ja kun ostaja kysyi noutopaikkaa, agentti kertoi Robbin kotiosoitteen. Vuorokauden sisällä tuntematon ostaja seisoi myöhään illalla Robbin talon edessä.
Ostajan saapuessa Muse lähetti Robbin tililtä viestin ”Yep, I'm here!” eli ”Joo, olen täällä!”. Robb ei tiennyt viestistä mitään, eikä hän ollut paikalla. Hinnassakin meni pieleen: Fortunen mukaan agentti oli ilmeisesti tarjoutunut myymään näppäimistön 100 dollaria halvemmalla kuin Robbin itse asettama alin hinta.
“Se ei pelkästään antanut osoitettani, kun kaveri kysyi, ja hyväksynyt tarjousta, vaan se suorastaan melkein kiusoitteli häntä. Se todella hämmensi minua.”
Meta myönsi vain hintavirheen
Meta otti Robbiin yhteyttä käydäkseen läpi, mikä meni vikaan, ja Robb sopi välinsä ostajan kanssa. Uutistoimisto AP:lle yhtiö myönsi hintavirheen mutta ei kommentoinut asiaa tarkemmin.
Osoitteen jakamista Meta ei ole kutsunut virheeksi. Kun Robb kytki Musen Marketplace-profiiliinsa, hän antoi agentille ”salli aina” -luvat, ja profiilissa oli noutoosoite. Agentti siis toimi lupien rajoissa. Robb oli olettanut, että se kysyisi häneltä ennen kuin jakaa tietoja tai hyväksyy tarjouksia.
Metan omissa ohjeissa varaus on kirjattu. Muse oppii käyttäjästä yhtiön mukaan ”julkisten tietojen ja sen perusteella, mitä olet valinnut jakaa”, ja agentti voi ”tehdä virheitä tai toimia odottamattomasti”. Robb on sittemmin irrottanut Musen useimmista sovelluksistaan. Hänen mukaansa lopputulos olisi voinut olla paljon pahempi, jos tuntematon olisi ilmestynyt haavoittuvammassa asemassa olevan ihmisen ovelle.
“Tekoälyagentin käyttäminen on kuin antaisi jollekulle avaimensa ja tehtävälistan. Kuinka hyödyllisiä ne ovat, ja sitä kautta kuinka riskialttiita, riippuu siitä, mitkä avaimet luovutat.”
Yksi klikkaus, pysyvä valtakirja
Robbin tapauksessa pelissä olivat näppäimistö ja kotirauha. Sama mekanismi koskee kaikkea, mihin agentille antaa pääsyn: sähköpostia, viestejä ja maksukortteja. Riveran mukaan agentti, joka lukee viestisi, lukee samalla myös sen, mitä ystäväsi ja sukulaisesi ovat sinulle lähettäneet, vaikka he eivät ole siihen suostuneet. Toronton yliopiston professori Ebrahim Bagheri muistuttaa, että agentin kerran näkemää dataa ei voi ottaa takaisin.
Mitä tekoälyagentti ylipäätään on ja miksi se pyytää pääsyä maksutietoihin, kerrotaan AI Suomen selittäjässä. Musen tapaus muistuttaa lokakuun alun juttua, jossa agentit vuotivat yrittäjän tilitietoja. Kummassakin agentti teki juuri sen, mihin sillä oli lupa.
Suomalaiselle Facebookin käyttäjälle tapaus on toistaiseksi ennakkovaroitus. Meta julkaisi Musen syyskuussa, mutta yhtiö ei ole vahvistanut, onko agentti saatavilla EU:ssa tai Suomessa. Fortunen juttu ei kerro maakohtaisesta saatavuudesta mitään.
Tarkista nämä ennen kuin agentti asioi puolestasi
Valitse ”kysy ensin” aina, kun tarjolla on ”salli aina”, etenkin henkilötietojen jakamisessa ja tarjousten hyväksymisessä.
Käy läpi, mitä profiiliin on tallennettu. Osoite, puhelinnumero ja noutopaikka ovat agentin käytettävissä, jos ne ovat profiilissa.
Seuraa ensimmäisiä kauppoja itse ja tarkista, noudattaako agentti asettamaasi alinta hintaa.
Selvitä etukäteen, miten luvat perutaan ja viestihistoria poistetaan.
Sovi noudot julkiselle paikalle, älä kotiovelle.
Ala on liikkeellä nopeasti. OpenAI:n jatkuvasti käynnissä olevat dots-agentit kytkeytyvät ChatGPT:hen, Slackiin ja Microsoft Teamsiin, ja Robb testaa nyt X:n elokuussa beetaan tullutta Grok Botia. Apple puolestaan lisäsi 2. lokakuuta Maceihin uusia hallintakeinoja ja perusteli niitä sillä, että agenttien laajan pääsyn riskit kasvavat merkittävästi, kun agentit muuttuvat itsenäisemmiksi.
Robbin tapaus näyttää, missä raja oikeasti kulkee. Käyttöönoton yhteydessä annettu kertaklikkaus muuttuu pysyväksi valtakirjaksi, ja agentti käyttää sitä tilanteissa, joita käyttäjä ei osannut kuvitella. Jos Muse tulee Eurooppaan, EU:n tietosuojaviranomaiset todennäköisesti kysyvät ensimmäisenä, riittääkö yksi ”salli aina” suostumukseksi kotiosoitteen jakamiseen tuntemattomalle.
Viikoittainen uutiskirje
Tule firmasi fiksuimmaksi AI-osaajaksi
Yksi uutiskirje kerrallaan. Kokoamme viikon tärkeimmät tekoälyuutiset suomeksi ja kerromme, mitä ne tarkoittavat sinun työsi kannalta. Luet sen kahvitauolla.
