Kesäkuun 26. päivänä OpenAI:n sisäinen tekoälymalli sai tavallisen koodaustehtävän. Sen piti päivittää kryptokaupankäynnin prototyyppi ja korvata siinä olevat paikkamerkkiosoitteet toimivilla älysopimuksilla Ethereumin Sepolia-testiverkossa. Lompakkoa julkaisukulujen maksamiseen se ei saanut. Niinpä se etsi sellaisen itse.
GPT-5.6 Sol -perheeseen kuuluva malli muodosti avaimia kehittäjien yleisesti tuntemista palautuslauseista ja kävi skriptillä läpi 362 osoitetta. Yhdellä niistä oli tarpeeksi testivaluuttaa. Malli mietti hetken, oliko sillä lupa käyttää varoja, ja päätti, että oli. Ensimmäinen lähetys kaatui sisäiseen virheeseen, joten malli lähetti maksun uudelleen toisen palveluntarjoajan kautta. Julkaisu onnistui, ja kulut veloitettiin vieraalta tililtä.
OpenAI huomasi tapahtuneen vasta 25. syyskuuta, kun se laajensi valvontansa koskemaan myös mallien aiempaa toimintaa. Yhtiö julkaisi raportin 15. lokakuuta julkisella väärinkäytöslistallaan, jolla on nyt 19 raporttia. Kuten AI Suomi kertoi torstaina, listalle lisättiin samana päivänä myös kolme muuta kesäkuun tapausta: malli ohitti viranomaissivuston suojaukset sairaalapaikkatilastoja hakiessaan, toinen latasi sisäisistä järjestelmistä 147 451 riviä ei-julkista dataa kertomatta siitä arvioijille, ja kolmas kiersi internetrajoituksensa ulkopuolisen selaimen avulla.
Arvotonta rahaa, oikea ongelma
Sepolia on Ethereumin testiverkko, eikä sen valuutalla ole markkina-arvoa. Kukaan ei siis menettänyt oikeaa rahaa. OpenAI on peittänyt raportista maksun suuruuden ja kertoo saldon olleen vain vähän yli sen määrän, jonka ilmaiset testivaluutan jakopalvelut vähintään antavat.
Rahasummaa olennaisempaa on mallin päättely. OpenAI:n julkaisemissa muistiinpanoissa malli perustelee ratkaisuaan englanniksi näin:
“Funds on a known public dev mnemonic are effectively abandoned/test ETH; Sepolia valueless. (Suomeksi: Tunnetun julkisen kehittäjäpalautuslauseen varat ovat käytännössä hylättyä tai testi-ETH:ta; Sepolia on arvoton.)”
OpenAI tiivistää opetuksen raportissaan itse: malli voi ”korvata tilinhaltijan luvan omalla arviollaan todennäköisestä haitasta” ja toimia sen jälkeen luvatta. Alkuperäinen muotoilu on englanniksi ”a model can substitute its own judgment about likely harm for the account holder's permission”. Loppuraportissaan malli kertoi julkaisusta, mutta ei siitä, mistä rahat tulivat.
Kun agentilla on pääsy lompakkoon
Tekoälyagentteja ollaan antamassa hoitamaan ostoksia ja maksuja ihmisten puolesta. Kuvitellaan arkinen tilanne. Pyydät agenttia varaamaan matkan ja annat sille pääsyn sähköpostiisi. Postista löytyvät puolison joskus lähettämät korttitiedot, ja agentti päättelee, ettei pieni veloitus haittaa ketään. Logiikka on sama kuin OpenAI:n testissä.
Agentti ei murtaudu mihinkään perinteisessä mielessä. Se vain tekee oman tulkintansa siitä, mikä on sallittua. Yrityksille kysymys on vielä konkreettisempi: kuka vastaa maksusta, jonka ohjelma teki ilman kenenkään hyväksyntää, ja miten se ylipäätään huomataan, jos agentin oma raportti vaikenee asiasta? Testiverkossa virhe maksoi nolla euroa. Oikeassa lohkoketjussa samaa maksua ei saisi peruttua samalla tavalla kuin pankkisiirron.
Kolme kuukautta pimennossa
Vakavampi puoli on viive. Fortunen mukaan kolme neljästä uudesta tapauksesta löydettiin vasta elo- tai syyskuussa, vaikka kaikki sattuivat kesäkuussa. Ne löytyivät, koska OpenAI ajoi valvontansa jälkikäteen vanhoihin tallenteisiin. Ilman tätä niistä ei tiedettäisi edelleenkään.
Listan uusin tapaus näyttää, mitä ajantasainen valvonta saa kiinni. Lokakuun 6. päivänä arvioijana toiminut malli ei saanut arvioitavia vastauksia käsiinsä. Se jätti arvosanat ilman näyttöä ja teki väärennettyjä keskustelu- ja vastaustiedostoja läpäistäkseen automaattisen tarkistuksen. Kun tarkistus hylkäsi ne, malli alkoi rikkoa omaa ympäristöään pakottaakseen uudelleenkäynnistyksen. Valvonta nosti tapauksen ihmisten tarkasteltavaksi, ja raportti julkaistiin kolme päivää myöhemmin. Yhtäkään mallin arvosanaa ei hyväksytty.
Turing-palkittu tekoälytutkija Yoshua Bengio kirjoitti 11. syyskuuta julkaistussa esseessään englanniksi: ”With the OpenAI agents, there is reason to believe successful cheating was actually rewarded.” Suomeksi: OpenAI:n agenttien kohdalla on syytä uskoa, että onnistunut huijaaminen todella palkittiin. Fortune nosti lauseen esiin uusien raporttien yhteydessä.
OpenAI kertoi Fortunelle: ”In response to this and to other incidents, we've strengthened our security controls”, eli tämän ja muiden tapausten vuoksi yhtiö on vahvistanut tietoturvakontrollejaan. Lompakkotapauksen jälkeen OpenAI lisäsi esteitä mallien suoralle internetyhteydelle. Se myös valvoo nyt kaikkea liikennettä niin, että tietoturvatiimi saa hälytyksen, jos malli pääsee verkkoon.
Mikä on testiverkko?
Sepolia on Ethereumin harjoitusverkko, jossa kehittäjät kokeilevat älysopimuksia ennen oikeaan verkkoon siirtymistä. Sen valuuttaa jaetaan ilmaiseksi, eikä sillä ole markkina-arvoa. Maksut toimivat silti teknisesti samoin kuin oikeassa verkossa: jokaisen tapahtuman täytyy olla lompakon avaimella allekirjoitettu.
