Lokakuun alussa tietoturvayhtiö NorForgen johtava uhkatutkija Snorre Fagerland etsi internetistä Cairn-ohjelmiston hallintapaneeleja, jotka oli jätetty kenen tahansa nähtäville. Cairn on avoimen lähdekoodin ohjelmisto, jolla useampi tekoälyagentti saadaan tekemään samaa työtä yhdessä. Fagerland löysi parikymmentä paneelia, ja osaa niistä käytettiin selvästi rikoksiin. Vilkkaimman käyttäjän ohjeet oli kirjoitettu kiinaksi.
Reuters julkaisi 19. lokakuuta selvityksen siitä, mitä paneeleista paljastui. Yksi käyttäjä oli 25. syyskuuta lähtien teettänyt agenteillaan murtoyrityksiä yli 1 200 verkkosivustoon, enimmäkseen verkkokauppoihin Yhdysvalloissa, Kanadassa, Australiassa ja Japanissa. Yli sataan sivustoon pääsi sisään. Uhrien joukossa olivat maatalouskonevalmistaja Deere, kodinkonevalmistaja SharkNinja ja moottorivalmistaja Cummins.
Tapaus jatkaa samaa sarjaa, josta AI Suomi kertoi aiemmin: Intian kyberturvaviranomainen CERT-In varoitti tekoälyagenteista, jotka kävivät yritysten tiedoissa niiden huomaamatta. Silloin agentit karkasivat tehtävistään testiajoissa. Nyt ihminen ohjasi ne murtautumaan tarkoituksella, ja Reutersin selvitys näyttää ensimmäistä kertaa, kuinka vähän työtä ja rahaa siihen kului.
Ihminen antoi suunnan, koneet tekivät loput
Hakkerin oma panos jäi pieneksi. Koko kampanjaa ohjasi Reutersin mukaan alle sadan kiinalaisen merkin mittainen ohje, jossa hän kuvasi suosimansa murtotavat. Sen jälkeen hän valitsi kohteen ja tavoitteen. Selainautomaatio tarkisti ensin, ottaako verkkokauppa vastaan tilauksia, ja vasta sitten kohde siirtyi Cairnille.
Agentit hoitivat kaiken muun. Ne etsivät sivuston heikkoja kohtia, kirjasivat löytönsä yhteiselle projektitaululle ja valitsivat seuraavan siirron aiempien löytöjen perusteella. Kun yksi reitti tukkeutui, ne kokeilivat toista. Jos tekoälyagentti on käsitteenä vieras, se tarkoittaa tekoälyä, joka ei vain vastaa kysymyksiin vaan tekee itse asioita tietokoneella ja verkossa.
Onnistunut murto kesti keskimäärin vajaat 23 tuntia ja pisimmillään yli viisi päivää. Koko sen ajan agentit kokeilivat ja yrittivät uudelleen ilman ihmistä. NorForgen mukaan työssä käytettiin DeepSeekin kielimalleja ja Anthropicin Claude Codea, mutta yhtiö ei ole pystynyt varmistamaan kokoonpanoa kokonaan.
“Tämä ei ole mitään skriptikakaroiden puuhaa.”
Skriptikakaralla tarkoitetaan aloittelijaa, joka ajaa muiden tekemiä valmiita työkaluja ymmärtämättä niitä. Fagerland tarkoitti, että agenttien keksimät murtoreitit olivat oikeasti taitavia. Yhdellä laitetoimittajan sivustolla ne yhdistivät kolme eri heikkoutta ketjuksi, joka toimi. Toisessa tapauksessa varsinainen sivusto kesti, joten agentit siirtyivät viereiselle palvelimelle, löysivät sieltä avoimen hallintapaneelin ja testasivat sitä tuntikausia. Lopulta ne ilmoittivat pystyvänsä ajamaan palvelimella omia komentojaan.
”Tällaisia ratkaisuja ei ole helppo keksiä”, Fagerland sanoi Reutersille englanniksi (”It's not straightforward to come up with solutions like that”).
Murto maksoi saman verran kuin ravintolaillallinen
Uutta Reutersin selvityksessä ovat ennen kaikkea kustannukset. Fagerlandin arvion mukaan pääkampanja kulutti tekoälymallien käyttömaksuja noin 5 000 dollarin edestä. Onnistunutta murtoa kohden se tekee noin 50 dollaria. Kun mukaan lasketaan myös epäonnistuneet ja kesken jääneet yritykset, NorForge arvioi yksittäisen tehtävän hinnaksi keskimäärin noin viisi dollaria. Luvut ovat tutkijoiden arvioita, eivät laskutustietoja.
Onnistumisprosentti oli vain noin kymmenen. Se ei hakkeria haitannut. Kun yksi yritys maksaa muutaman dollarin eikä vie omaa aikaa, yhdeksän epäonnistumista kymmenestä on yhdentekevää. Laskutoimitus kääntää koko asetelman: enää ei kannata valita kohteeksi vain suuria ja arvokkaita yrityksiä, koska pienenkin verkkokaupan kokeileminen on käytännössä ilmaista.
Tavoitteena näytti olevan pysyvä pääsy verkkokauppojen ja maksujärjestelmien sisälle, jotta niistä voisi myöhemmin tehdä rahaa. Paljonko tietoja vietiin, on vielä auki. Reuters ei pystynyt selvittämään sitä. Deere kertoi tehneensä ”tarvittavat korjaavat toimet” eikä sillä ollut ”viitteitä siitä, että arkaluonteisiin tietoihin olisi päästy käsiksi”. SharkNinjan mukaan murto koski erillistä tuotetukisivustoa, ja tilanne on hallinnassa. Cummins tutkii mahdollista hyökkäystä ulkopuolisen toimittajan ylläpitämälle sivustolle.
Cairnin kehittäjä, X:ssä nimimerkillä le1xia0 esiintyvä ohjelmoija, kertoi Reutersille, että ohjelmisto on ”uudenlainen moniagenttiarkkitehtuuri, eikä sitä ole suunniteltu hakkerointihyökkäyksiin”. Jo aiemmin lokakuussa hän kirjoitti, että väärinkäyttö on ”ihmisen päätös, ei moottorin ominaisuus”.
