Ohjelmiston nimi oli ensin DronDoc, sitten Serafim. Sen takana oli venäläinen freelance-ryhmä, ei mikään tunnettu asevalmistaja, ja koodin ryhmä kirjoitti Claudella.
Anthropicin torstaina julkaiseman uhkaraportin mukaan kyse oli ohjausjärjestelmästä FPV-drooniparvelle. Parven yksiköt jakoivat keskenään muistia havainnoistaan ja jatkoivat tehtävää, vaikka osa niistä putoaisi. Raportin mukaan järjestelmä pystyi luokittelemaan kohteita, muun muassa luokkaan ”person”, ja antamaan räjäytyskäskyn ilman ihmistä silmukassa. Anthropic sulki ryhmän tilit.
Tiedot perustuvat Anthropicin omaan selvitykseen, eikä tapahtumien kulkua ole vahvistanut yksikään ulkopuolinen taho. Ryhmän henkilöllisyyttä ei ole todennettu julkisesti. Raportti ei myöskään kerro, päätyikö koodi koskaan lentävään drooniin vai jäikö se testipenkkiin.
Kyseessä on sama raportti, jonka tislausosuudesta AI Suomi kertoi aiemmin: 24 000 valetiliä imi Claudesta 16 miljoonaa keskustelua kilpailevan mallin aineistoksi (https://aisuomi.fi/artikkelit/24-000-valetilia-imi-16-miljoonaa-keskustelua-claudesta). Aseita ja biologiaa koskevat osuudet jäivät siinä sivujuonteeksi. Raportti kattaa joulukuun 2025 ja elokuun 2026 välisen ajan sekä seitsemän haitta-aluetta kyberoperaatioista huijauksiin.
“Et näe ketään sanomassa sarjakuvamaisesti, että hei, minä haluan rakentaa biologisen aseen tappaakseni kaikki.”
Bioasekynnys siirtyi
Kleinin lause liittyy raportin toiseen kovaan kohtaan. Anthropic kuvaa viisi tapausta, joissa Claudelta pyydettiin apua biologisessa tutkimuksessa, jolla on myös aseellista käyttöpotentiaalia. Mukana oli chikungunya-viruksen toimintakykytutkimukseen tähtäävä rahoitushakemus, lintuinfluenssan sopeutuminen nisäkkäisiin ja leviäminen ilmateitse, isorokon sukuiseen orthopox-virusryhmään liittyvä hakemus sekä eläinten myrkkypeptidien luettelointi. Osa käyttäjistä ohjasi liikenteensä yhdysvaltalaisen infrastruktuurin kautta kiertääkseen aluerajoituksia ja käytti palvelua, joka ei tallenna keskusteluja.
Raportin merkittävin lause ei silti koske ketään käyttäjää. Se koskee Anthropicin omia malleja. Vanhemmista malleista, kuten Claude Opus 4:stä, yhtiö sanoo niiden jääneen selvästi sen tason alle, jolla ne olisivat voineet auttaa tällaisessa työssä merkittävästi. Uusimmista se ei sano samaa. Riskit ovat raportin mukaan nousseet esiin nimenomaan tuoreiden julkaisujen myötä, ja erikseen mainitaan Claude Fable 5.
Käytännössä se tarkoittaa, ettei mallin oleteta enää itsestään jäävän kynnyksen alle, vaan kynnyksen ylityksen varalle rakennetaan suojauksia. Anthropic kertoo ajavansa vaarallisia pyyntöjä tunnistavia luokittelijoita, sulkeneensa kaikki raportissa kuvatut tilit ja jakavansa havaintoja viranomaisille ja alan toimijoille. Yhtiön oma tiivistys kuuluu englanniksi näin: keskeytimme jokaisen raportissa kuvatun operaation ja käytimme niistä saadut opit suojaustemme vahvistamiseen.
Aivan yksin Anthropic ei tällä väitteellä ole. OpenAI varoitti jo kesäkuussa 2025, että sen tulevat mallit kasvattavat biologisten aseiden riskiä. Ero on aikamuodossa. Anthropic ei puhu tulevista malleista vaan niistä, jotka ovat jo myynnissä.
“Nämä ovat kylmääviä esimerkkejä siitä, kuinka valtiollisten biologisten aseiden kehittäjät tarttuvat tekoälymallien nopeasti kasvaviin kykyihin.”
Mitä tästä seuraa käyttäjälle
Weberin arvio on ulkopuolinen, mutta se koskee raportin tulkintaa eikä sen todenperäisyyttä. Sitä, mitä keskusteluissa tosiasiassa tapahtui, ei ole tarkastanut kukaan yhtiön ulkopuolinen.
Tavalliselle käyttäjälle kynnyksen siirtyminen näkyy siinä, mistä malli kieltäytyy. Raportin julkaisua seuranneessa Hacker Newsin keskustelussa tutkijat moittivat Anthropicia siitä, että myrkkypeptidien kartoitus tulkittiin uhkaksi, vaikka samalla aineistolla kehitetään kipulääkkeitä ja masennuslääkkeitä. Luokittelija ei erottele aikomusta, se erottelee molekyylejä. Yrityksille kysymys on kalliimpi: lääke- tai biotekniikka-alan tiimi ei voi rakentaa työnkulkuaan mallin varaan, jos tili voi sulkeutua kesken projektin ja perusteluksi jää turvallisuusarvio, jota ei näytetä.
Drooniosuus kertoo eri asiasta. Autonomisen kohteenvalinnan ohjelmisto ei enää vaadi puolustusteollisuuden budjettia, tutkimuslaitosta eikä kymmenen hengen tiimiä. Riittää muutama koodari ja kuukausimaksu. Sama pudotus, joka on tehnyt ohjelmistokehityksestä halpaa, koskee myös sitä ohjelmistoa, joka päättää mihin lennetään.
Raportin kiusallisin piirre on rakenteellinen. Ainoa taho, joka näkee nämä keskustelut, on yhtiö jonka palvelussa ne käydään, ja se päättää itse mitä niistä kertoo. Luvut päätyvät silti sääntelykeskusteluun sellaisenaan. EU:n tekoälyasetuksessa yleiskäyttöisten mallien järjestelmäriskien raportointi nojaa samaan asetelmaan: malliyhtiö kirjoittaa, viranomainen lukee. Toistaiseksi lukijalla ei ole tapaa tarkistaa, mitä jäi kirjoittamatta.
