Kevät 2026, Lähi-itä. Yhdysvaltain erikoisoperaatioiden Tyynenmeren johtoportaan analyytikko kysyi tekoälybotilta, mitä kiinalaisen rahtialuksen lastiluettelosta oli pääteltävissä. Botti yhdisti avoimista lähteistä kerättyä aineistoa ja salaiseksi luokiteltua tiedustelutietoa ja vastasi, että aluksella on ydinaseen komponentteja.
Analyytikko ei jättänyt asiaa siihen. Hän pyysi tekoälyä muotoilemaan vastauksen vakiomuotoiseksi tiedusteluraportiksi, sellaiseksi jota upseerit ovat tottuneet pitämään luotettavana, ja lähetti sen eteenpäin. Raportti kiersi kevään aikana laajalti Yhdysvaltain asevoimissa Iranin konfliktin aikana.
Loppu eteni nopeasti. Alus päätettiin pysäyttää, sotilaskoneet nousivat ilmaan ja aseistettu partio valmistautui nousemaan kannelle. Vasta juuri ennen operaation alkua selvisi, että raportin oli tuottanut chatbot ja että sen keskeinen väite oli väärä.
CNN ei kerro, kuka virheen lopulta huomasi, eikä sitä, missä vaiheessa ketjua raportti olisi kuulunut tarkistaa. Lehden mukaan asiakirja ehti levitä laajalle ennen kuin sen alkuperä selvisi.
“Se melkein aloitti sodan.”
Virhe ei ollut botissa
Kiinnostavinta tapauksessa ei ole se, että kielimalli tuotti väärää tietoa. Kielimallit tuottavat uskottavan näköistä tekstiä, ja sekin kuuluu niiden tunnettuihin ominaisuuksiin. Ratkaisevaa on, että tuo teksti pääsi operatiiviseen päätöksentekoon asti ilman että kukaan ketjussa pysähtyi kysymään, mistä se oli peräisin.
Kun havainto oli kerran puettu vakiomuotoiseen raporttipohjaan, sen alkuperä katosi näkyvistä. Lukija näki tutun asiakirjan, ei kehotetta ja koneen vastausta. Sotilasorganisaatiossa asiakirjan muoto on osa sen uskottavuutta, ja juuri sen muodon tekoäly osasi jäljitellä.
Asevoimien omista tekoälytyökaluista CNN:lle puhunut entinen korkea virkamies oli tyly: "Sisäiset työkalut ovat enimmäkseen kopioita kaupallisista tuotteista huulipuna päällä." Lause kertoo jotain siitä, kuinka paljon puolustushallinnon omiin sovelluksiin on rakennettu erillistä varmistusta.
Mitä tapauksesta ei tiedetä
Tieto perustuu CNN:n nimettömiin lähteisiin. Lehti ei saanut selville, mitä alus todellisuudessa kuljetti, eikä sitä, oliko käytetty chatbot kaupallinen tuote vai Yhdysvaltain hallinnon oma järjestelmä. Erikoisoperaatioiden Tyynenmeren johtoporras ja Pentagon eivät vastanneet CNN:n kommenttipyyntöihin. AI Suomi ei ole vahvistanut tapausta itsenäisesti.
