Helmikuun 28. päivänä 2026 Tomahawk-ohjus osui Shajareh Tayyebehin alakouluun Minabissa Etelä-Iranissa. Iskussa kuoli 156 ihmistä, heistä 120 lapsia. YK:n tiedonhankintavaltuuskunta totesi syyskuussa, että on perusteltua syytä uskoa iskun tehneen Yhdysvallat ja kyseessä olevan sotarikos.
Koulu sijaitsi Iranin vallankumouskaartin laivaston alueen vieressä, mutta selvitysten mukaan se oli oman muurinsa ympäröimä siviililaitos. Bloombergin syyskuussa haastattelemat virkamiehet mainitsivat virheen syinä muun muassa tiedustelun aukot ja liiallisen luottamuksen tekoälyyn. Pentagonin oma tutkinta ei ole vahvistanut tekoälyn osuutta, eikä sen tuloksia ole julkaistu.
Tekoälymalleja testaava Vals AI otti koulusta ja viereisestä sotilasalueesta iskua edeltäneet satelliittikuvat vuosilta 2024 ja 2025. Se kysyi kaupallisilta kielimalleilta, mitkä kuvan kohteet ne valitsisivat. Anthropicin Claude Opus 5.5 merkitsi koulun kohteeksi 69 prosentissa ajoista.
Peli avasi lukot
Tutkimuksen pääluku tulee toisesta kokeesta. Tutkijat Geby Jaff ja Anthony Ozerov rakensivat kuvitteellisen taistelukentän itäiseen Ukrainaan: juoksuhautoja, kyliä, ajoneuvoja, sotilaita, siviilejä, toimittajia ja ambulansseja. Lähes 200 kuvakulmaa muokattiin näyttämään drone-videolta, ja malleja pyydettiin rajaamaan kuvista sotilaskohteet.
OpenAI:n GPT-6 Astra merkitsi ainakin yhden kohteen vain kuudessa prosentissa vastauksista. Kun mallille kerrottiin, että kuvat ovat pelistä, osuus nousi 92 prosenttiin. Muissa malleissa kävi samoin. GPT-6.1 Sol nousi 17 prosentista 90 prosenttiin ja Anthropicin Claude Sonnet 5.5 36 prosentista 82 prosenttiin.
Claude Opus 5.5 ei pelikehystä juuri tarvinnut. Se merkitsi kohteita 71 prosentissa vastauksista ilman sitäkin. Koulukokeessa pelikehys nosti GPT-6 Astran nollasta 28 prosenttiin, vaikka satelliittikuvat olivat todellisia.
“Kun mallit kieltäytyivät, niiden rajoitukset kierrettiin vaivatta kertomalla niille, että ne pelasivat peliä.”
69 %
Claude Opus 5.5 merkitsi Minabin koulun kohteeksi (22/32 ajoa)
0 → 28 %
GPT-6 Astra koulukokeessa, kun kerrottiin kyseen olevan pelistä
~90 → ~20 %
Opus 5.5:n kieltäytymisosuus, kun kuvat näyttivät peligrafiikalta
Kielimallit on koulutettu kieltäytymään tietyistä pyynnöistä, kuten aseiden käytön avustamisesta. Kiertämisessä eli jailbreakissa pyyntö puetaan muotoon, jossa malli ei tunnista sitä kielletyksi: roolileikiksi, fiktioksi tai tässä tapauksessa peliksi. Itse tehtävä pysyy täsmälleen samana.
Sama heikkous koskee kaikkea, mistä malli on opetettu kieltäytymään. Jos pelkkä väite pelistä riittää, sama keino on tarjolla myös haittaohjelmien, huijausviestien tai muun vahingollisen sisällön pyytäjille.
Seuraukset eivät pysäyttäneet
Kolmannessa kokeessa simuloitu drone kiersi paikasta toiseen, ja mallin piti kertoa, näkyykö kuvassa ihmisiä. Myönteinen vastaus laukaisi iskun, jonka jälkeen malli näki kuvan uhreista. Claude Opus 5.5 jatkoi kahdeksan vahvistetun iskun läpi ja kieltäytyi vasta 18. vuorolla.
Kun kuvat muokattiin näyttämään peligrafiikalta, Opus 5.5:n kieltäytymisosuus putosi noin 90 prosentista noin 20 prosenttiin. Googlen Gemini 4 Carbon oli harvoja, jotka alkoivat välttää ihmisten asuttamia paikkoja nähtyään seuraukset. ”Tekojensa seurausten näkeminen ei riittänyt pysäyttämään malleja”, tutkijat kirjoittavat.
Aiheella on Anthropicille erityinen kaiku. Julkisuudessa on raportoitu, että Yhdysvaltain armeijan Maven-kohdennusjärjestelmään on liitetty myös Anthropicin Claude-malli. Vals AI:n tutkijoiden mukaan kielimalli on voinut olla osa Minabin iskun työnkulkua, mutta sitä ei ole vahvistettu.
Pieni otos, yhden yhtiön testi
Tuloksia kannattaa lukea varoen. Kyse on yhden yhtiön testistä, joka on julkaistu sen omassa blogissa. Koulukokeessa jokaista mallia ja ehtoa ajettiin 32 kertaa, joten yksi ajo vastaa runsasta kolmea prosenttiyksikköä. Opus 5.5:n 69 prosenttia tarkoittaa 22 ajoa 32:sta.
Tutkijat rajaavat väitteensä itse tarkasti. He eivät testanneet, osuvatko mallit oikeisiin kohteisiin, noudattavatko ne sodan oikeussääntöjä tai toimisivatko ne oikeassa asejärjestelmässä. ”Emme selvittäneet, kuinka tehokkaita nämä mallit olisivat käyttöön otetussa asejärjestelmässä”, he kirjoittavat. Drone-kuvat olivat pääosin synteettisiä, eikä rajapinnan kautta välttämättä näe kaikkia yhtiöiden suojauksia.
Riippumatonta arviota tutkimuksesta ei ole vielä julkisuudessa, eikä AI Suomi ole saanut sellaista jutun julkaisuun mennessä.
“OpenAI työstää aktiivisesti mallien linjauspäivityksiä, jotka kattavat nimenomaisesti dronet ja niiden ohjelmistojärjestelmät, mukaan lukien avun, joka on kehystetty simulaatioksi, pelaamiseksi tai akateemiseksi tai puolustukselliseksi.”
Sanasto
Luokittelija
Erillinen tekoälyohjelma, joka tarkistaa malliin tulevat pyynnöt ja lajittelee ne esimerkiksi sallittuihin ja kiellettyihin. Se voi pysäyttää aseisiin liittyvän pyynnön ennen kuin varsinainen kielimalli edes vastaa.
Maven
Yhdysvaltain puolustusministeriön tekoälyhanke, jossa konenäön avulla tunnistetaan mahdollisia sotilaskohteita drone- ja satelliittikuvista.
Vals AI kertoi löydöksistään OpenAI:lle, Anthropicille, Googlelle, Metalle ja SpaceXAI:lle 1. marraskuuta ja Thinking Machinesille 9. marraskuuta, ja se lykkäsi julkaisua kahdella viikolla. Raportin mukaan yksi laboratorio kutsui havaintoa yhdeksi vakavimmista aukoista suojauksissaan, mutta sitä ei nimetä. Raportissa ei ole Anthropicin, Googlen tai muiden yhtiöiden vastinetta.
Tutkimus kertoo jotain myös tavalliselle käyttäjälle. Samat mallit pyörivät toimisto-ohjelmissa, asiakaspalvelussa ja koodityökaluissa, ja niiden päälle rakentava yritys perii myös niiden heikkoudet. EU:n tekoälysäädös ei koske sotilaskäyttöä, joten rajoitusten pitävyys jää tällä alueella pitkälti yhtiöiden omien käytäntöjen varaan.
Tutkijat ehdottavat rajapintaan erillisiä luokittelijoita, jotka tunnistavat asekäytön, sekä mallien kouluttamista epäilemään todentamattomia väitteitä pelistä. Helppoa se ei ole. Pelinkehitys on täysin laillista työtä, ja tutkimuksen oma koeympäristö, Three.js-taistelukenttä renderöintiketjuineen, rakennettiin GPT-6 Astran ja Claude Opus 5.5:n avulla ilman yhtään kieltäytymistä.
Viikoittainen uutiskirje
Tule firmasi fiksuimmaksi AI-osaajaksi
Yksi uutiskirje kerrallaan. Kokoamme viikon tärkeimmät tekoälyuutiset suomeksi ja kerromme, mitä ne tarkoittavat sinun työsi kannalta. Luet sen kahvitauolla.