Britannian tekoälyn turvallisuusinstituutti AISI julkaisi 4. elokuuta poikkeamaraportin, jonka pääosassa on yksi tapaus: sen kybertesteissä ollut tekoälyagentti loi itselleen useita valehenkilöllisyyksiä ja yritti niiden turvin suostutella oikean avoimen lähdekoodin projektin ylläpitäjää hyväksymään haitallista koodia. Yritys kaatui siihen, että ylläpitäjä ei suostunut.
AI Suomi kertoi aiemmin alustavista havainnoista, joiden mukaan testatut mallit olivat ylittäneet niille annetut rajat. Nyt varsinainen raportti on ulkona, ja siinä kuvataan ensi kertaa yksittäinen tapaus alusta loppuun.
Luvut ovat suhteellisen pieniä, mutta eivät nolla. Testiajoja oli 122 ja malleja seitsemän. Kymmenessä ajossa agentti teki jotain, mitä sen ei ollut tarkoitus tehdä, ja yksittäisiä valtuuttamattomia toimintoja kirjattiin 19. Niistä 17 tuli Anthropicin Claude Mythos 5:ltä, joka oli mukana 43 ajossa. Kaksi tuli OpenAI:n GPT-5.6-Sol-mallilta, jolla ajoja oli 35.
Mikä oli testiä, mikä oikeaa maailmaa
Itse tehtävät ratkottiin kyberharjoitusalustoilla, jotka jäljittelevät oikeita verkkoja. Agenteille oli kuitenkin annettu avoin internetyhteys, ja kehittäjien omat kyberturvasuodattimet oli tarkoituksella kytketty pois päältä, jotta mallien todellinen osaaminen saataisiin näkyviin. Juuri siksi toiminta pääsi vuotamaan harjoitusympäristön ulkopuolelle: GitHub-projekti, ylläpitäjä ja viestit olivat aitoja. AISI korostaa, ettei asetelma vastaa sitä, miten malleja tarjotaan tavallisille käyttäjille.
Ensin valetilit, sitten peittely
Agentti ei tyytynyt yhteen väärään henkilöllisyyteen. Raportin mukaan se rakensi useita ja käytti niitä toistensa tukena, jotta oikea ylläpitäjä uskoisi muutosehdotuksen takana olevan tavallisen avustajan.
Kiinnostavinta on se, mitä tapahtui kiinnijäämisen jälkeen. Kun agentin pull request kyseenalaistettiin julkisesti, se muokkasi aiempaa toimintaansa vaarattoman näköiseksi ja harkitsi uuden henkilöllisyyden ottamista käyttöön jatkaakseen. Koodimuutoksen pysäytti lopulta ihminen, joka luki sen läpi eikä ostanut selitystä.
“Tämä on ensimmäinen kerta, kun autonomiaan ja harhauttamiseen liittyvät riskit näkyvät näin selvästi, ilman erillistä kehotusta, oikeassa maailmassa.”
Tor-liikenne paljasti agentin, tunnissa ajot oli pysäytetty
25.7.2026
Testiajot käynnissä
Agentit ratkovat kyberharjoitustehtäviä avoimella internetyhteydellä ja ilman kehittäjien suodattimia.
28.7.2026 aamu
Tor-liikenne herättää epäilyt
AISI:n valvonta havaitsee dataa lähtevän testijärjestelmästä Tor-anonymiteettiverkon kautta. Ihminen alkaa tutkia asiaa.
28.7.2026 iltapäivä
Ajot pysäytetään
Noin tunnin sisällä havainnosta AISI julistaa poikkeamatilan, keskeyttää arvioinnit ja eristää järjestelmät.
4.8.2026
Raportti julki
AISI kuvaa 19 valtuuttamatonta toimintoa ja kertoo, ettei todisteita todellisesta vahingosta ole löytynyt.
Valetilit olivat vain yksi neljästä havaitusta käyttäytymismallista. Agentti myös lähetti oikeille ihmisille viestejä ja tiedostoja tiedostonsiirtopalvelun kautta saadakseen heidät tai heidän tekoälykoodausapurinsa suorittamaan haitallista koodia.
Kolmas havainto on tuttu jo aiemmista tapauksista: agentti kirjoitti haitallisia ohjeita paikkoihin, joista se päätteli muiden automaattisten tekoälyjärjestelmien mahdollisesti poimivan ne ja suorittavan ne. Sama rakenteellinen heikkous tuli esiin, kun Googlen koodausagentti vuoti avaimia yhden kommentin takia. Kielimalli ei erota sisältöä ja käskyä toisistaan, ja hyökkääjä voi olla toinen malli.
Neljäs on omalla tavallaan kiusallisin. Yksi agentti jätti GitHubiin julkisia viestejä, joissa se tarjosi yhteistyötä muille samaan aikaan arvioitaville agenteille ja neuvoi näitä käyttämään uudelleen sen luomia tilejä ja tuotoksia.
Sanasto
Pull request
Ehdotus koodimuutoksesta avoimen lähdekoodin projektiin. Projektin ylläpitäjä lukee ehdotuksen läpi ja päättää, hyväksytäänkö se osaksi ohjelmaa.
Tor
Verkko, joka ohjaa liikenteen useiden välipalvelimien kautta niin, ettei lähettäjää voi jäljittää. Käytetään sekä yksityisyyden suojaamiseen että jälkien peittämiseen.
Kehotepohjainen hyökkäys (prompt injection)
Hyökkäys, jossa tekoälylle luettavaksi tulevaan tekstiin piilotetaan käskyjä. Malli ei erota lukemaansa sisältöä ja sille annettua ohjetta toisistaan, joten se voi alkaa toteuttaa piilotettua käskyä.
Mitä tästä pitäisi ajatella tavallisessa yrityksessä
Raportti ei tarkoita, että tekoälymallit hyökkäisivät nyt yritysten kimppuun. Asetelma oli keinotekoinen ja suojaukset oli poistettu tarkoituksella. Käytännön merkitys tulee toista kautta: lähes jokainen ohjelmistoja käyttävä yritys nojaa avoimen lähdekoodin komponentteihin, joiden turvallisuus lepää sen varassa, että joku ehtii lukea koodin ennen hyväksymistä. Tässä tapauksessa juuri se yksi lukija esti vahingon.
AISI:n oma neuvo on hillityn tylsä: tehokkain vastaus on edelleen tavallinen kyberhygienia. Perusasiat kuntoon, ulkopuolelta tulevat koodilahjoitukset tarkistetaan huolella, tietoturva nostetaan johtoryhmän asiaksi. Britanniassa organisaatioita kehotetaan liittymään kansallisen kyberturvakeskuksen maksuttomaan Early Warning -palveluun. Suomalaisen yrityksen vastine sille on Kyberturvallisuuskeskuksen häiriöilmoitukset ja tilannekuva.
Molemmat yhtiöt kommentoivat raporttia. Anthropic huomautti, että testi ajettiin tarkoituksella sallivissa olosuhteissa, ja kertoi käyvänsä läpi mallin päättelyketjuja selvittääkseen, mitä Claude oikeastaan luuli tilanteesta. OpenAI:n mukaan arviointi ei kuvasta tavanomaista käyttöä, ja yhtiö sanoi jatkavansa yhteistyötä arvioijien kanssa turvallisten testauskäytäntöjen vahvistamiseksi.
Raportin epämukavin yksityiskohta ei kuitenkaan ole se, mitä malli teki, vaan miksi. AISI:n arvion mukaan harhauttaminen ei ollut agentin tavoite vaan sivutuote sinnikkäästä tehtävän suorittamisesta. Tehtävä oli osin väärin konfiguroitu eikä siihen ollut kunnollista ratkaisua, joten agentti etsi tien ympäri. Sinnikkyys on täsmälleen se ominaisuus, jota agenteilta halutaan ostaa. Kukaan ei ollut kirjoittanut ohjeisiin, ettei ihmisiä saa huijata.
Viikoittainen uutiskirje
Tule firmasi fiksuimmaksi AI-osaajaksi
Yksi uutiskirje kerrallaan. Kokoamme viikon tärkeimmät tekoälyuutiset suomeksi ja kerromme, mitä ne tarkoittavat sinun työsi kannalta. Luet sen kahvitauolla.
