Lokakuussa Anthropicin tietoturvatiimi sai raportin, jota yksikään tekoäly-yhtiö ei halua lukea pörssilistautumisen kynnyksellä. Muutaman kuukauden ikäinen kyberturvallisuusyhtiö Cathedral kertoi, että sen tekoälyagentit olivat löytäneet reitin Anthropicin sisäisiin järjestelmiin alle 12 tunnissa.
Washington Post uutisoi asiasta 25. lokakuuta Cathedralin raporttiluonnoksen perusteella. Postin juttu on maksumuurin takana, joten tämän jutun tiedot ovat peräisin sitä referoineista medioista, kuten Gizmodosta, ForkLogista ja Cyber Security Newsista. Asiasta ovat kertoneet myös Fast Company ja Quartz.
Osapuolet kertovat tapahtumista selvästi eri tavoin. Siksi ne käsitellään tässä erikseen.
Mitä Cathedral väittää
Cathedralin mukaan sen agentit eivät murtaneet Anthropicin omaa koodia eivätkä tekoälymalleja. Ne hyödynsivät haavoittuvuuksia kolmannen osapuolen yritysohjelmistoissa, joita Anthropic käyttää hallinnossa ja myynnissä. Ohjelmistoja ja aukkoja ei ole nimetty, jotta niitä ei käytettäisi väärin.
Raporttiluonnoksen mukaan näiden ohjelmistojen kautta päästiin kokousmuistioihin, palkka- ja työtarjoustietoihin sekä sisäisiin Slack-keskusteluihin, joissa puhuttiin muun muassa yhtiön kehittyneimmistä malleista. Cathedral kertoo pitäneensä pääsyn tietoihin alan käytäntöjen mukaisessa minimissä. Johtopäätöksen se kirjoitti suoraan: luonnoksen mukaan heikkoudet tavallisissa yritysohjelmistoissa voivat vaarantaa ”edistyneimpienkin organisaatioiden infrastruktuurin” (Gizmodon ja IBTimesin lainaama englanninkielinen raportti).
Postin mukaan Trumpin hallinnossa löydöksiin suhtauduttiin vakavasti. Nimettömänä esiintynyt korkea virkamies vertasi asiaa siihen, mihin Kiinan valtiolliset hakkerit voisivat pystyä.
“Jos kourallinen tyyppejä, jotka juuri perustivat yrityksen, pystyy tuohon, kiinalaiset eivät ehkä ole kaukana perässä.”
Mitä Anthropic myöntää
Anthropic vahvistaa, että Cathedral pääsi rajattuun joukkoon myynnin, henkilöstöhallinnon ja IT:n järjestelmiä. Niissä oli joidenkin asiakkaiden ja kumppanien yhteystietoja sekä käyttäjätilien perustietoja. Yhtiön mukaan Claude-käyttäjien keskusteluihin, lähdekoodiin tai mallipainoihin ei päästy.
”Valvontamme havaitsi osan Cathedralin toiminnasta ennen kuin he ilmoittivat siitä meille, ja katkaisimme heidän pääsynsä samana päivänä”, Anthropic sanoi Washington Postin mukaan. Sitaatti on käännetty englannista.
Anthropic kertoo poistaneensa ohjelmistot käytöstä ja ottaneensa ne takaisin vasta, kun toimittajat olivat vahvistaneet korjaukset. Merkkejä siitä, että joku muu olisi käyttänyt samoja aukkoja, ei yhtiön mukaan löytynyt. Se ilmoitti asiasta myös liittovaltion viranomaisille.
Cathedralin roolista Anthropic puhuu kriittisemmin. Yhtiön mukaan tutkijat yrittivät ensin useita päiviä tunkeutua suoraan sen omiin ohjelmistoihin siinä onnistumatta. Anthropic syyttää Cathedralia haavoittuvuusohjelmansa (bug bounty) sääntöjen rikkomisesta, koska se ei kertonut kaikesta toiminnastaan järjestelmissä. Lisäksi se pitää Cathedralin kansallista turvallisuutta koskevia johtopäätöksiä liioiteltuina.
Kiistattomia ovat siis vain perusasiat: Cathedral pääsi Anthropicin luvalla järjestetyssä testissä yrityksen tukijärjestelmiin. Sitä, kuinka arkaluonteiseen aineistoon päästiin ja kuinka kauan siihen meni, kertoo toistaiseksi vain Cathedral.
Heikoin lenkki on ostettu ohjelmisto
Kolmannen osapuolen kautta tehdyssä murrossa hyökkääjä ei mene ulko-ovesta. Se etsii aukon palvelusta, jonka yritys on ostanut toimittajalta. Tällainen palvelu voi olla esimerkiksi asiakkuudenhallinta, palkanlaskenta tai IT:n hallintaportaali. Palvelut on kytketty toisiinsa ja yrityksen käyttäjätunnuksiin, joten yhdestä aukosta voi päästä seuraavaan järjestelmään.
Cyber Security Newsin mukaan Cathedralin agentit ketjuttivat heikkouksia toisiinsa kytkettyjen palvelujen välillä. Ihmistiimiltä työ veisi viikkoja. Kone tekee sen yhden yön aikana.
Washington Postin pyynnöstä aineistoa arvioi tekoäly-yhtiö Cognitionin tietoturvajohtaja Alex Stamos, joka ei kuulu kumpaankaan osapuoleen. ForkLogin referoiman Postin jutun mukaan Stamos piti löydöstä vakavana ja arvioi, että Anthropic olisi voinut toimia selvästi paremmin.
Suomalaisyrityksille asetelma on tuttu. Tavallinenkin keskisuuri yritys käyttää kymmeniä pilvipalveluita, joiden koodia se ei pääse itse tarkastamaan. EU:n NIS2-direktiivin toimeenpaneva kyberturvallisuuslaki velvoittaa piiriinsä kuuluvat organisaatiot hallitsemaan myös toimitusketjunsa riskejä, ja johdon on valvottava tätä työtä. Jos Anthropicin kaltainen tietoturvaan panostava yhtiö jää kiinni toimittajan aukosta, tilitoimiston tai kunnan ei kannata olettaa olevansa paremmassa asemassa.
Varoitus ei tule tyhjästä. Kuten AI Suomi kertoi viime viikolla, Anthropicin apulaistietoturvajohtaja Jason Clinton arvioi PHP-haavoittuvuuksien jälkeen, että tilanne pahenee ennen kuin se paranee (https://aisuomi.fi/artikkelit/anthropicin-tietoturvajohtaja-php-aukko-oli-vasta-alkua). Samassa jutussa tietoturva-asiantuntija Laura Kankaala muistutti, että tekoäly nopeuttaa aukkojen löytämistä mutta ei muuta hakkeroinnin perusteita. Puolustuksen perustana ovat yhä päivitykset, valvonta ja tarpeettomien käyttöoikeuksien karsiminen.
