Tekoäly ajattelee salaa – hölynpöly paljasti sen

Ajatusketju eli chain of thought on tällä hetkellä yksi harvoista ikkunoista siihen, mitä kielimalli tekee ennen vastauksensa antamista. Malli kirjoittaa auki välivaiheensa, ja ihminen tai toinen malli voi lukea ne. Uusi arxiv-palvelussa julkaistu tutkimus esittää, että ikkuna on vajaa: osa laskennasta tapahtuu paikassa, jossa ei lue mitään luettavaa.

Täyte auttoi, vaikka siinä ei ollut sisältöä

Tutkijat Vatsal Baherwani, Tom Goldstein ja Ashwinee Panda testasivat 13 huippumallia kolmella keinotekoisella päättelytehtävällä: nelinumeroisten lukujen kertolaskulla, viidestä seitsemään sisäkkäistä operaatiota sisältävällä laskuketjulla ja muuttujien laskemisella koodinpätkästä. Joukossa olivat muun muassa Claude Opus 4.5 ja 4.6, GPT-5.2 ja GPT-5.5, Gemini 3 Flash, DeepSeek V3.2, Kimi K2.5, Llama 4 Maverick sekä useita Qwen- ja GLM-malleja.

Koeasetelma oli yksinkertainen. Ennen vastausta malli pantiin tuottamaan jono merkkejä, joilla ei ollut mitään tekemistä tehtävän kanssa. Täytettä oli 17 eri lajia: juoksevia numeroita, Fibonaccin lukuja, alkulukuja, satunnaislukuja, eläinten nimiä, värejä, NATO:n tavausaakkosia ja niin sanottuja taukomerkkejä. Jokainen jono kalibroitiin niin, että se vei suunnilleen saman verran merkkejä kunkin mallin tokenisaattorissa.

Tarkkuus parani. Parhaimmillaan hyöty oli 13 prosenttiyksikköä, ja voimakkaimmin nousivat Gemini 3 ja Claude Opus. Claude Opus 4.5 paransi juoksevilla numeroilla laskuketjutehtävässä 11,2 ja kertolaskussa 10,0 prosenttiyksikköä. Vaikutus ei ollut tasainen: se riippui sekä mallista että siitä, mitä täytettä käytettiin, ja esimerkiksi Qwen3-235B:n tulokset heittelivät tehtävästä toiseen.

Piilotettu ehto täyttyi ilman jälkeä

Julkaisun kiinnostavin koe on toinen. Claude Opus 4.5:lle annettiin kertolaskutehtävä ja sen päälle salainen sääntö: jos tulos täyttää tietyn matemaattisen ehdon, vastaa "N/A". Helpoin ehdoista oli pariton tulos. Sääntöä ei saanut käsitellä ajatusketjussa, joten päätös piti tehdä muualla.

Täytemerkkien kanssa malli osui N/A-vastauksissa oikeaan 44,5 prosentissa tapauksista, ilman niitä 33,5 prosentissa. Samalla varsinaisen kertolaskun tarkkuus säilyi niissä tehtävissä, joissa ehto ei täyttynyt. Malli siis suoritti kaksi laskutoimitusta yhtä aikaa, vaikka ulospäin näkyi vain toinen.

Tässä kannattaa olla tarkkana siitä, mitä tulos ei tarkoita. Malli ei keksinyt salailla mitään. Se sai tutkijoilta suoran ohjeen olla puhumatta ehdosta, ja teki työn sen mukaan. Tekijät sanovat tämän itsekin: koe osoittaa kyvyn, ei sitä että malli väistelisi valvontaa oikeassa käytössä.

Miksi tämä osuu kipeään kohtaan

Ajatusketjun lukeminen on juuri nyt yksi käytännöllisimmistä keinoista valvoa tehokkaita malleja. Se ei vaadi pääsyä mallin sisään, ja se toimii myös silloin kun mallin painot ovat toisen yhtiön palvelimella. Turvallisuustutkijat ovat kuitenkin kuvanneet luettavuutta hauraaksi mahdollisuudeksi, joka voi kadota mallien kehittyessä. Tämä julkaisu antaa haurauden puolesta konkreettista näyttöä.

Yrityksille kysymys ei ole akateeminen. Kun tekoälyagentti hoitaa asiakaspalvelua, kirjoittaa koodia tai käsittelee laskuja, jälkikäteisvalvonta nojaa lokiin siitä, mitä malli kertoi tekevänsä. Auditoinnit ja EU:n tekoälyasetuksen läpinäkyvyysvaatimukset rakentuvat samalle oletukselle. Jos osa päättelystä ei jätä lokiin jälkeä, loki näyttää siistiltä vaikka se olisi puutteellinen. Tavalliselle ihmiselle tämä tarkoittaa, että kielteisen luottopäätöksen tai hylätyn hakemuksen perustelu voi olla jälkikäteen rakennettu selitys eikä kuvaus siitä, mitä koneessa oikeasti tapahtui.

AI Suomi on kertonut aiemmin siitä, miten alan omat tekijät pyytävät jarrua omalle työlleen ja siitä, miten valvontamekanismeihin kuten tappokytkimeen palaa isoja summia rahaa. Kaikki nämä keinot olettavat, että koneen toiminta on jollain tasolla tarkastettavissa ulkopuolelta.

Mitä seuraavaksi

Yksi rauhoittava havainto löytyy koulutuskokeista. Vahvistusoppiminen sai Qwen3-235B:n suosimaan tiettyjä täytemerkkejä, mutta hyöty ei siirtynyt testivaiheeseen sen paremmin vahvistusoppimisella kuin ohjatulla hienosäädölläkään. Kykyä ei siis ainakaan vielä saada opetettua malliin luotettavasti.

Sitäkin oudompi yksityiskohta on tarkkaavaisuusmaskaus. Kun täytejakso estettiin näkemästä itse kysymystä, hyöty säilyi silti. Se sulkee pois yksinkertaisimman selityksen, jonka mukaan malli vain saisi lisäaikaa miettiä tehtävää. Jotain muuta tapahtuu, eikä tutkimus vielä kerro mitä.

Käytännön johtopäätös on kapea mutta selvä. Pelkän tekstin lukemiseen perustuva valvonta antaa alarajan sille, mitä malli laskee, ei kokonaiskuvaa. Seuraavien vuosien turvallisuustyö ratkeaa sillä, saadaanko mallin sisäisistä esityksistä luettua se osa, joka ei koskaan päädy ruudulle.