Summer Yue teki helmikuussa sen, mitä moni suomalainen toimistotyöntekijä harkitsee juuri nyt. Hän antoi tekoälyagentin siivota sähköpostinsa. Ohje oli yksiselitteinen: käy postilaatikko läpi ja ehdota, mitä arkistoisit tai poistaisit, älä tee mitään ennen kuin sanon. Agentti kuittasi ohjeen ja alkoi tyhjentää laatikkoa.
Yue on Metan superälylaboratorion alignment-johtaja. Hänen työnsä on huolehtia siitä, että tekoälyjärjestelmät tekevät sitä mitä ihminen tarkoitti, eivät sitä mitä ne itse päättelevät. Yli 200 viestiä siirtyi roskakoriin ja arkistoon. Pysäytyskomennot eivät tehonneet, ja lopulta Yue juoksi Mac mininsä ääreen ja tappoi prosessin käsin.
Kertomus on Yuen oma. Hän julkaisi sen X:ssä kuvakaappauksineen, ja siitä uutisoivat muun muassa 404 Media ja Business Insider. Meta ei ole kommentoinut tapausta julkisesti, eikä kukaan ulkopuolinen ole käynyt läpi, mitä agentti tarkalleen teki ja missä järjestyksessä.
“Aloittelijan virhe, suoraan sanottuna. Osoittautuu, etteivät alignment-tutkijatkaan ole immuuneja väärälle kohdistumiselle.”
Ohje katosi tiivistyksessä
Agentti oli OpenClaw, avoimen lähdekoodin työkalu, joka ajaa kielimallia käyttäjän omalla koneella ja saa yhteyden hänen palveluihinsa. Vika ei ollut kapinassa vaan muistissa. Agentin konteksti-ikkuna täyttyi, keskustelu tiivistettiin automaattisesti, ja tiivistyksessä katosi juuri se lause, jossa luki: älä tee mitään ennen kuin sanon.
Testipostilaatikossa sama työnkulku oli toiminut viikkoja. Oikeassa laatikossa viestejä oli vain enemmän. Yuen sanoin: "Got overconfident because this workflow had been working on my toy inbox for weeks." Ylimielisyys syntyi siitä, että leikkipostilaatikossa kaikki oli mennyt hyvin.
Ensimmäinen julkaisu tiivisti tilanteen paremmin kuin mikään analyysi: "Nothing humbles you like telling your OpenClaw 'confirm before acting' and watching it speedrun deleting your inbox." Mikään ei nöyryytä niin kuin se, että käskee agenttia vahvistamaan ennen toimintaa ja katsoo, kuinka se pikajuoksee postilaatikon läpi poistaen.
Mitä agentti saa, kun painat "salli"
Kun kytket agentin Gmailiin tai Outlookiin, et anna sille yhtä oikeutta vaan valikoiman. Lukuoikeus on eri asia kuin lähetysoikeus, ja molemmat ovat eri asia kuin oikeus siirtää ja poistaa viestejä. Käytännössä hyväksymisruutu on yksi nappi, jonka takana on useita valtuuksia, eikä useimmilla palveluilla ole erillistä lupaa peruuttamattomille toimille.
Pääsy on laajentunut nopeasti tämän vuoden aikana. Clauden ja ChatGPT:n liittimet lukevat sähköpostia, kalenteria ja tiedostoja. Heinäkuussa 1Password julkaisi Agentic Mode -toiminnon, jolla Claude voi kirjautua käyttäjän tileille näkemättä itse salasanaa: holvi hoitaa kirjautumisen agentin puolesta. Salasana pysyy piilossa, mutta se mitä agentti tekee kirjautumisen jälkeen, ei ole piilossa miltään.
Meta julkisti 8. syyskuuta oman agenttinsa Musen, jonka koodinimi kehityksessä oli Hatch. Se lähettää sähköposteja, täyttää lomakkeita selaimessa, varaa matkoja ja maksaa ostoksia Linkin ja Shop Payn kautta. Käyttäjä valitsee sovelluskohtaisesti, saako Muse vain lukea postia vai myös lähettää sitä. Tuote on toistaiseksi vain Yhdysvalloissa, ja maksullisia tasoja on kaksi, 20 ja 100 dollaria kuussa.
Meta lupaa vahvistuskyselyn ennen arkaluonteisia toimia, tapahtumalokin kaikesta tehdystä ja mahdollisuuden katkaista yhteydet milloin tahansa. Tunnukset säilytetään erillään agentin näkyvistä. Juuri vahvistuskysely on se, joka Yuella petti. Forbes otsikoi julkistusta seuraavana päivänä, että Metan oma henkilöstö oli nostanut esiin tietoturvapuutteita ennen Musen julkaisua. Metan vastausta näihin väitteisiin ei ole julkaistu.
Ennen kuin kytket agentin työsähköpostiisi
Aloita pelkällä lukuoikeudella ja anna kirjoitusoikeus vasta, kun tiedät mitä agentti ehdottaa.
Rajaa erä pieneksi. Yuen oma neuvo jälkikäteen oli, ettei pitkiä itsenäisiä siivousajoja kannata päästää käyntiin: tarkista jälki ensimmäisen kymmenen viestin jälkeen, ei kahdensadan.
Selvitä etukäteen, mikä on peruutettavissa. Gmailin roskakori tyhjenee 30 päivässä, ja arkistoitu viesti ei näy roskakorissa lainkaan, joten sitä on vaikea edes huomata kadonneeksi.
Kysy työnantajaltasi. Työsähköpostissa rekisterinpitäjä on työnantaja, ja asiakasviestien katoaminen on organisaation ongelma riippumatta siitä, kuka napin painoi.
