Anthropicin vaarallisin malli vuoti Discord-ryhmälle

Bloomberg raportoi tiistaina, että pieni ryhmä luvattomia käyttäjiä on saanut pääsyn Anthropicin Mythos-malliin. Kyse on kielimallista, jota yhtiö pitää itse niin vaarallisena, että sitä ei ole tarkoitus julkaista yleisesti. Pääsy syntyi samana päivänä, jolloin yhtiö ilmoitti antavansa Mythosin valikoiduille testikumppaneille Project Glasswing -hankkeen kautta.

Mitä Bloomberg konkreettisesti raportoi

Ryhmä toimii yksityisellä Discord-kanavalla, jonka jäsenet erikoistuvat tietojen kaivamiseen julkaisemattomista tekoälymalleista. Pääsy malliin syntyi kahdesta tekijästä. Yksi ryhmän jäsenistä työskentelee Anthropicille kolmannen osapuolen alihankkijana, mikä antoi luvallisen kahvan järjestelmiin. Toinen vihje tuli aiemmasta vuodosta tekoälykoulutusyritys Mercorista, jonka kautta Anthropicin sisäisiä käytäntöjä päätyi julkisuuteen. Yhdistämällä nämä tiedot ryhmä pystyi arvaamaan, mihin Mythos oli sijoitettu.

Ryhmä toimitti Bloombergille kuvakaappauksia ja eläväisen demonstraation siitä, että pääsy on aito. Tärkeä yksityiskohta: he eivät ole käyttäneet mallia kyberhyökkäyksiin vaan ennen kaikkea uteliaisuudesta. Anthropicin tiedottaja vahvistaa, että yhtiö tutkii väitettä Claude Mythos Preview -mallin luvattomasta käytöstä yhden alihankkijan ympäristön kautta, eikä toistaiseksi näe merkkejä siitä, että toiminta olisi vaikuttanut yhtiön omiin järjestelmiin.

Toinen aalto Mercor-vuodon jälkeen

Mercor-tapaus oli ensimmäinen merkki siitä, että Mythosin ympärille rakennettu turvajärjestely vuotaa. Silloin julkisesti löydettävissä olevasta tietokannasta löytyi yksityiskohtia mallista ja sen testauskäytännöistä. Tällä kertaa kyse on jo varsinaisesta käytöstä, ei vain metatiedoista.

Ero on merkittävä. Mercor-tapauksessa luvattomat osapuolet näkivät, miten Anthropic suojasi malliaan. Nyt heillä on käsissään itse työkalu. Bloombergin mukaan ryhmän tunnistaminen on osoittautunut vaikeaksi juuri siksi, että alihankkijoiden ympäristöt sijaitsevat Anthropicin oman valvonnan reuna-alueilla.

Mythos ei ole tavallinen kielimalli

Anthropic julkaisi Mythosin huhtikuun alussa rajatulle ryhmälle Project Glasswing -hankkeen kautta. Yhtiön mukaan malli on löytänyt jo tuhansia korkean vakavuusasteen haavoittuvuuksia kaikista yleisistä käyttöjärjestelmistä ja selaimista. Anthropic on luvannut sata miljoonaa dollaria käyttökrediittejä ja neljä miljoonaa dollaria lahjoituksia avoimen lähdekoodin turvallisuustyöhön.

Glasswingin julkistetut kumppanit ovat AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, NVIDIA ja Palo Alto Networks. Kaikki yhdysvaltalaisia. Yli neljäkymmentä lisäorganisaatiota on saanut pääsyn, mutta Anthropic ei ole julkistanut listaa.

Suomi puuttuu puolustuspelistä

Tässä kohdassa kotimainen lukija herää. Jos Mythosin kaltainen työkalu osaa löytää haavoittuvuuksia kaikista suurista käyttöjärjestelmistä, on outoa, että suomalaisia kriittisiä toimijoita ei ole mukana puolustustyössä. Suomalaisten pankkien, energiayhtiöiden ja teleoperaattoreiden järjestelmät pyörivät täsmälleen niissä alustoissa, joista Mythos on löytänyt aukkoja.

Traficomin Kyberturvallisuuskeskus on alkuvuoden aikana julkaissut sekä yleisen tekoälyselvityksen että erillisen ohjeistuksen tekoälyagenttien kyberturvallisuudesta. Suunta on oikea, mutta puolustustehtävässä on rakenteellinen ero: keskuksen julkaisut auttavat suomalaisia organisaatioita arvioimaan omia riskejään, mutta ne eivät anna pääsyä työkaluun, jolla aukot voi etsiä etukäteen. Pyysin Traficomilta kommenttia siitä, onko vuoropuhelua Anthropicin kanssa käyty – vastausta ei ehtinyt tähän juttuun.

Glasswingin kaltainen koalitio rakennetaan kerran. Jos Suomi tai mikään eurooppalainen toimija ei ole mukana sillä hetkellä, kun valikoima lyödään lukkoon, kuilu osaamiseen syvenee jokaisen käytetyn käyttökrediitin myötä.

Mitä tämä ei vielä tarkoita

Bloombergin raportti ei osoita, että Mythosia olisi käytetty hyökkäyksiin. Discord-ryhmä on käyttänyt mallia uteliaisuudesta, ja Anthropic ilmoittaa, että sen omat järjestelmät pysyvät ennallaan. Vakavin käytännön riski tällä hetkellä ei ole yksittäinen vuoto vaan se, että alihankkijaverkoston aukot näyttävät olevan järjestelmällinen heikko kohta. Ensimmäinen vuoto tuli Mercorista, toinen toiselta alihankkijalta. Kolmas todennäköisesti tulee samalla tavalla.

Käytännössä tästä seuraa kaksi asiaa lukijalle. Suomalaisen kriittisen palvelun käyttäjänä luotat ketjuun, jossa puolustustyökalut kehittyvät yhdysvaltalaisten yritysten ehdoilla. Jos Suomessa halutaan olla mukana siinä, missä haavoittuvuuksien etsintä siirtyy seuraavalle tasolle, kontakti on luotava nyt, ei sitten kun ensimmäinen Mythos-pohjainen hyökkäys on jo tehty.