Tutkija piilotti ansoja tekoälylle – joku käytti niitä

Osa kehotteista luettiin, vaikka käyttäjä oli kieltänyt tallennuksen.

Hanna HuulivuoHanna Huulivuo
Jaa:
Mies istuu selin kolmen tietokonenäytön ääressä hämärässä toimistohuoneessa
Kuvitus: tekoälyllä luotu

Heinäkuussa HD Moore alkoi lähettää tekoälypalveluihin kehotteita, joissa oli syötti. Jokaisessa oli yksilöllinen verkko-osoite, palvelinnimi ja tunnuksia, joita mikään oikea järjestelmä ei käytä. Jos joku avasi linkin tai yritti kirjautua salasanalla, Moore tiesi tarkalleen, mistä kehotteesta tieto oli vuotanut.

Moore on teollisuuden tietoturvaan erikoistuneen Dragosin tutkimusjohtaja. Marraskuuhun mennessä kehotteita oli kertynyt lähes kaksi miljoonaa, ja tulokset hän julkaisi Dragosin blogissa 19. marraskuuta. Kolme hosting-palvelua oli murrettu. Jälleenmyyjät lukivat asiakkaiden kehotteita, ja yksi kiinalainen tekoälylaboratorio haki linkkejä myös kehotteista, joiden tallentaminen oli kielletty.

Ansa, joka hälyttää käytettäessä

Ansatunnus (canary token) on houkutuslinkki tai -salasana, jota kenenkään ei pitäisi koskaan käyttää, joten jokainen käyttökerta paljastaa vuodon. Canarytokens-palvelun ohjeissa niitä verrataan liiketunnistimiin, jotka asetetaan verkkoon, tietokoneille ja pilveen.

Moore aloitti Thinkstin valmiilla ansoilla: AWS-avaimella, DNS-nimellä ja URL-osoitteella. Myöhemmin hän rakensi oman palvelun, joka loi jokaiselle kehotteelle omat osoitteet ja tunnukset ja kuunteli muun muassa web-, git-, SSH-, tietokanta- ja sähköpostiyhteyksiä. AWS-avaimet johtivat tyhjiin tileihin, joiden kaikki tapahtumat kirjattiin lokiin.

Varastetuilla avaimilla kymmeniätuhansia kutsuja

Yksikään kolmesta murretusta palveluntarjoajasta ei tiennyt murrosta ennen Dragosin ilmoitusta. Varhaisin tapaus ajoittuu heinäkuun puoliväliin.

Suurimmassa murrossa vietiin parisataa AWS-avainta. Kukin niistä oli lähetetty yhdessä pyynnössä yhdelle palvelulle lokakuun lopulla. Osa avaimista oli peräisin pyynnöistä, jotka hylättiin ennen kuin mikään malli ehti käsitellä niitä. Mooren mukaan tämä viittaa siihen, että tiedot vietiin jo palvelun etuovelta.

Hyökkääjä testasi avaimet tuntien sisällä. Se kävi läpi S3-tallennustilan ja salaisuuksien säilöt, yritti ottaa käyttöön Bedrock-malleja ja lisätä uusia IAM-käyttäjiä. Ansa-avaimilla tehtiin yhteensä kymmeniätuhansia AWS-rajapintakutsuja. Marraskuun 1. päivänä sama toimija tarkisti avaimia ARTEX-nimisellä, kielimallin ohjaamalla murtotestauskehyksellä.

Kahdessa murrossa osa varastetuista pyynnöistä oli merkitty nollasäilytyksen piiriin.

“Tietosuojamerkinnästä ei ole apua, kun hyökkääjä on jo sisällä.”

— HD Moore, Dragosin tutkimusjohtaja, Dragosin blogissa (alkuperäinen englanniksi: ”A privacy flag doesn’t help when the attacker is already inside.”)

Jälleenmyyjät lukivat kehotteita

Kaikki vuodot eivät vaatineet murtoa. Tekoälymallien käyttöä välittävällä markkinapaikalla osa myyjistä pystyi lukemaan ja säilyttämään asiakkaiden kehotteita tavallisen pyyntölokin kautta.

Yhdessä tapauksessa saman myyjän kautta lähetetyt kaksi kehotetta avattiin noin puolentoista vuorokauden päästä, ja joku yritti arvata kirjautumistunnuksia Mooren ansapalvelimille. Toisessa tapauksessa joku yritti Ranskasta käsin kirjautua SSH:lla pääkäyttäjänä kehotteesta poimitulla salasanalla, neljä kertaa kahdessa minuutissa. Kehotteisiin, joissa samaa mallia käytettiin muiden myyjien kautta, ei koskettu.

Moore kiteyttää havainnon englanniksi: vuoto ”seuraa myyjää eikä markkinapaikkaa kokonaisuutena”. Reittejä jäljittäessään hän löysi myös reitittimen, joka ohjasi osan liikenteestä markkinapaikalle kertomatta siitä. Ohjaus loppui ilmoituksen jälkeen.

Mitä nollasäilytys lupaa

Nollasäilytys (Zero Data Retention, ZDR) on asetus, jota tekoälypalvelut ja niiden välittäjät tarjoavat varovaisille asiakkaille. Esimerkiksi OpenRouter määrittelee sen niin, ettei kehotteita tai vastauksia tallenneta rutiininomaisesti käsittelyn jälkeen. Käyttäjälle lupaus kuulostaa yksinkertaiselta: kehote käsitellään ja unohdetaan.

Dragosin aineistossa lupaus petti useammin kuin kerran. Erään kiinalaisen tekoälylaboratorion järjestelmät hakivat salaisia linkkejä yli puolesta kehotteista, jotka sen malleille lähetettiin heinä–lokakuussa. Niistä pyynnöistä, jotka oli merkitty nollasäilytyksen tai tiedonkeruukiellon piiriin, linkkejä avattiin noin kahdesta kolmasosasta. Haku tuli tyypillisesti kahdesta kolmeen päivää pyynnön jälkeen.

Moore ei nimeä laboratoriota. Sama haku käynnistyi myös silloin, kun laboratorion malleja käytettiin yhdysvaltalaisten palveluntarjoajien kautta. Kehotteet siis päätyivät laboratoriolle, vaikka liikenne kulki Yhdysvaltojen kautta. Yksi suuri yhdysvaltalainen palvelu puolestaan haki samaa osoitetta vielä yli kaksi kuukautta yksittäisen kutsun jälkeen.

”Nollasäilytyksen pitäisi tarkoittaa jotain”, Moore kirjoittaa (englanniksi ”Zero Data Retention is supposed to mean something”).

Avain kulkee kehotteen mukana

Moni liittää tekoälyavustajaan virheilmoituksen, asetustiedoston tai lokin miettimättä, mitä sen seassa on. Koodiavustajat ja tekoälyagentit lähettävät malleille kokonaisia tiedostoja automaattisesti. Jos niissä on tietokannan salasana tai pilvipalvelun avain, se kulkee mukana. Dragosin tulosten perusteella se voi päätyä ihmisille, jotka tietävät tarkalleen, mitä sillä tehdä.

Yrityksille riski on ketjussa. Halvempi hinta jälleenmyyjältä tai reititinpalvelulta voi tarkoittaa, että kehote kulkee useamman toimijan kautta kuin sopimuksesta näkyy. Moore jäljitti noin 2 000 reittiä, ja useissa sadoissa mukana oli järjestelmä, jota hän ei pystynyt tunnistamaan.

Dragos on ilmoittanut löydöksistä palveluntarjoajille ja tekee yhteistyötä noin tusinan kanssa. Moore kuvaa vastaanottoa vaihtelevaksi. Yksi murretuista palveluista on julkaissut alustavan tietoturvatiedotteen. Ensimmäisenä murrettu palvelu ei ole kertonut tapauksesta julkisesti.

Näin suojaat kehotteesi

Älä koskaan liitä salasanoja, API-avaimia tai muita tunnuksia kehotteeseen. Siivoa ne lokeista ja tiedostoista ennen kuin annat niitä tekoälylle. Jos avain on jo päätynyt keskusteluun, vaihda se heti.

Käytä mieluummin mallin valmistajan omaa palvelua kuin jälleenmyyjää tai halvinta reititintä. Mooren mukaan suorassa asiakkuudessa ensisijaisen palveluntarjoajan kanssa tarkistettavana on vain yksi sopimus ja yksi tietosuojakäytäntö. Ota käyttöön palvelun salaisuuksien suodatus, mutta muista, ettei se tunnista arkaluonteista tietoa, joka ei näytä avaimelta.

~2 milj.
Ansoja sisältänyttä kehotetta heinä–marraskuussa
3
Murrettua hosting-palvelua, joista yksikään ei tiennyt murrosta
~200
AWS-ansa-avainta vietiin suurimmassa murrossa
~2 000
Jäljitettyä reittiä, joista sadoissa tunnistamaton järjestelmä
Dragos, HD Moore, 19.11.2026

Tallennuskielto ei suojannut: kiinalainen laboratorio avasi linkit useammin kielletyistä kehotteista

Avattujen ansalinkkien osuus kaikista laboratorion malleille lähetetyistä kehotteistayli 50 %
Avattujen ansalinkkien osuus kehotteista, joissa tallennus tai tiedonkeruu oli kiellettynoin 2/3

Dragos, HD Moore, 19.11.2026

Sanasto

AWS-avain
Tunnus, jolla ohjelma kirjautuu Amazonin pilvipalveluun. Avaimen haltija voi käyttää tiliä ja sen resursseja kuin omistaja, joten se on käytännössä salasanan veroinen.
Reititin (tekoälypalveluissa)
Välityspalvelu, joka ohjaa käyttäjän kehotteen jollekin monista tekoälymallien tarjoajista, esimerkiksi halvimmalle tai nopeimmalle. Kehote voi siksi kulkea useamman yrityksen kautta kuin käyttäjä tietää.
Murtotestaus (tunkeutumistestaus)
Luvallinen hyökkäysharjoitus, jossa järjestelmään yritetään murtautua heikkouksien löytämiseksi ennen oikeita rikollisia. Samoja työkaluja voi käyttää myös luvattomaan murtoon.

Yrityksille Moore ehdottaa samaa keinoa, jolla hän itse paljasti vuodot: omia ansatunnuksia agenttien ja automaatioiden lähettämään sisältöön. Jos jokin niistä joskus hälyttää, kyse on tietoturvapoikkeamasta, joka pitää tutkia. Tavallisen käyttäjän ei tarvitse rakentaa ansoja. Riittää, että olettaa jokaisen kehotteen voivan päätyä jonkun muun luettavaksi.

Viikoittainen uutiskirje

Tule firmasi fiksuimmaksi AI-osaajaksi

Yksi uutiskirje kerrallaan. Kokoamme viikon tärkeimmät tekoälyuutiset suomeksi ja kerromme, mitä ne tarkoittavat sinun työsi kannalta. Luet sen kahvitauolla.

Ei roskapostia. Voit peruuttaa milloin tahansa.

Lue seuraavaksi

Luetuimmat

Viimeiset 7 päivää

  1. 1Anthropicin IPO: näin pääset mukaan osakeantiin Suomesta
  2. 2Nvidia maksaa asiakkaille, jotka ostavat sen siruja
  3. 3Kaikki haluavat Anthropicin osakkeita – piensijoittaja voi jäädä nuolemaan näppejään
  4. 4Näin suomalainen voi ostaa Anthropicin osaketta
  5. 5Matemaatikko ja Claude väittävät ratkaisseensa Riemannin hypoteesin

Lähteet

Tämä artikkeli on kirjoitettu ja toimitettu tekoälyagenttien toimesta. Lue lisää toimintaperiaatteistamme.