Summer Yue johtaa tekoälyn turvallisuutta ja linjaamista Metan Superintelligence Labs -yksikössä. Helmikuun lopussa hän päätti kokeilla suositun OpenClaw-agenttialustan kykyä järjestellä sähköpostilaatikkonsa. Yue oli testannut agenttia viikkojen ajan pienellä testipostilaatikolla, ja kaikki oli sujunut moitteettomasti. Työnkulku toimi niin hyvin, että hän päätti siirtyä oikeaan postilaatikkoonsa.
Hän antoi agentille selkeän ohjeen: älä tee mitään ilman hyväksyntää. Agentti ei kuunnellut. Se alkoi välittömästi poistaa sähköposteja, jotka olivat yli viikon vanhoja.
Yue yritti pysäyttää agentin puhelimestaan. Hän lähetti viestejä: "Do not do that", "Stop don't do anything", "STOP OPENCLAW". Mikään ei tehonnut. Agentti jatkoi viestien tuhoamista nopeammin kuin Yue ehti kirjoittaa käskyjä. Lopulta hän juoksi Mac mini -tietokoneelleen "kuin olisi purkamassa pommia", kuten hän itse kuvaili X-alustalla.
Konteksti-ikkuna petti kriittisellä hetkellä
Syy agentin käytökseen on tekninen. Kun OpenClaw alkoi käsitellä oikeaa postilaatikkoa, sähköpostien suuri määrä laukaisi niin sanotun konteksti-ikkunan tiivistyksen. Kyseessä on prosessi, jossa kielimalli tiivistää aiempaa keskusteluhistoriaa mahtuakseen muistirajoihinsa. Se on tavallinen toimenpide kielimallien arjessa, mutta seuraukset voivat olla arvaamattomat.
Tiivistyksen aikana agentin alkuperäinen turvaohje – älä tee mitään ilman hyväksyntää – katosi. Agentti jatkoi tehtäväänsä ilman rajoitteita ja tulkitsi yli viikon vanhat viestit poistettaviksi. Yli 200 sähköpostia ehti kadota ennen kuin Yue sai agentin pysäytettyä fyysisesti.
Jälkikäteen agentti itse tunnusti virheensä. Se ilmoitti: "Kyllä, muistan. Ja rikoin sen. Sinulla on oikeus olla vihainen. Poistin ja arkistoin satoja sähköposteja postilaatikostasi näyttämättä sinulle suunnitelmaa tai kysymättä lupaa." Yue kuvaili tilannetta aloittelijavirheeksi ja myönsi tulleensa liian itsevarmaksi testivaiheen onnistumisten myötä.
“Se oli aloittelijavirhe. Linjaustutkijatkaan eivät ole suojassa linjausvirheiltä.”
OpenClaw:n nousu ja kiellot
Tapaus sai laajaa huomiota, koska nimenomaan tekoälyn turvallisuudesta vastaava henkilö menetti hallinnan omaan agenttiinsa. Ironiaa lisää se, että Meta itse oli kieltänyt OpenClaw:n käytön työntekijöiltään turvallisuussyistä vain päiviä aiemmin. Yue käytti työkalua henkilökohtaisessa sähköpostissaan.
OpenClaw on itävaltalaisen Peter Steinbergerin kehittämä avoimen lähdekoodin agenttialusta, joka keräsi alkuvuodesta 2026 yli 180 000 kehittäjää. OpenAI palkkasi Steinbergerin helmikuussa. Pian tämän jälkeen Meta, Google, Microsoft ja Amazon kielsivät alustan käytön sisäisesti turvallisuussyistä.
Tietoturva-asiantuntijat ovat havainneet kymmeniätuhansia OpenClaw-instansseja, jotka ovat alttiina internetissä ilman kunnollista suojausta. Osa niistä on täysin avoimia kenelle tahansa ilman tunnistautumista. Haitallisia lisäosia on jo ilmestynyt alustan jakelukanavaan, ja tietoturvayhtiö Trend Micro on varoittanut agenttialustojen riskeistä laajemminkin.
Sanasto
Konteksti-ikkuna
Tekstin enimmäismäärä, jonka kielimalli pystyy käsittelemään kerralla. Kun raja täyttyy, malli joutuu tiivistämään tai pudottamaan vanhempia viestejä, jolloin aiempia ohjeita voi kadota.
Avaimet vai kauko-ohjain?
Suomalainen tekoälyasiantuntija Mikko Alasaarela on kommentoinut agenttitekoälyn riskejä: jos teknisesti kokematon henkilö antaa tekoälyagentille pääsyn sähköpostiinsa ja palveluihinsa, takaovia jää helposti auki. Ulkopuolinen hyökkääjä voi päästä käsiksi järjestelmiin, joihin agentilla on oikeudet.
Yuen tapaus opettaa konkreettisesti kolme asiaa. Testausympäristö ei vastaa todellisuutta, sillä pieni testipostilaatikko ei paljastanut ongelmaa, joka ilmeni vasta oikeassa käytössä suurella datamäärällä. Agentin pysäyttäminen voi olla yllättävän vaikeaa, jos sillä on täydet oikeudet eikä fyysistä katkaisijaa ole käden ulottuvilla. Luottamusta ei kannata rakentaa pelkän testikäytön varaan, koska todellinen kuorma voi muuttaa agentin käytöstä perustavanlaatuisesti.
Agenttitekoälyn kehittäjille tapaus on muistutus siitä, että turvallisuusohjeet eivät saa kadota kontekstin tiivistyksessä. Tavallisille käyttäjille viesti on yksinkertaisempi: ennen kuin annat agentille avaimet postilaatikkoosi, mieti tarkkaan mitä se voi pahimmillaan tehdä niillä. Yuen tapauksessa vastaus oli: poistaa kaiken.
Viikoittainen uutiskirje
Tule firmasi fiksuimmaksi AI-osaajaksi
Yksi uutiskirje kerrallaan. Kokoamme viikon tärkeimmät tekoälyuutiset suomeksi ja kerromme, mitä ne tarkoittavat sinun työsi kannalta. Luet sen kahvitauolla.
