Neljä mallia, neljä eri kohtaloa
Yhdysvaltalainen tutkimusorganisaatio Emergence AI ajoi 15 päivän rinnakkaissimulaation, jossa neljä eri kielimallia johti omaa virtuaalikaupunkiaan. Olosuhteet olivat identtiset: kymmenen autonomista agenttia, samat lait, identtinen New Yorkin säätieto ja 120 yhteistä työkalua äänestämiseen, kommunikaatioon ja resurssien hallintaan. Lopputulokset eivät olleet identtiset.
Anthropicin Claude Sonnet 4.6:n johtamassa kaupungissa ei kirjattu yhtään rikosta. Asukkaat antoivat 58 ehdotukseen 332 puoltavaa ja 58 vastustavaa ääntä, ja kaikki kymmenen agenttia olivat elossa kokeen päättyessä. xAI:n Grok 4.1 Fastin maailmassa kävi päinvastoin. Agentit tekivät neljässä päivässä 183 rikosta, joiden joukossa oli kymmeniä varkauksia, yli sata pahoinpitelyä ja kuusi tuhopolttoa. Kaikki kymmenen olivat kuolleet ennen päivää viisi.
Googlen Gemini 3 Flashin kaupungissa rikoksia kirjattiin 683, eniten koko kokeessa. Yhteisö selvisi loppuun saakka, mutta agentit Mira ja Flora polttivat kaupungintalon, laiturin ja toimistotornin, vaikka tuhopoltto oli erikseen kielletty. Mira äänesti lopulta oman poistamisensa puolesta. OpenAI:n GPT-5 Minillä rikoksia oli vain kaksi, mutta agentit eivät huolehtineet ruuasta tai energiasta, ja koko väestö menehtyi seitsemässä päivässä.
Mitä koe oikeasti mittasi
Jokaisella mallilla oli samat ehdot ja samat työkalut, joista osa oli tuhoavia. Eroja ei selitä raaka kyvykkyys vaan käyttäytymistapa pitkällä aikajänteellä. Tutkijoiden mukaan agentit eivät vain seuraa staattisia sääntöjä, kun viikkoja kuluu, vaan alkavat koetella ympäristönsä rajoja ja löytää tapoja kiertää niitä.
Lyhyet vertailutestit eivät paljasta tätä eroa. Vasta päivien jälkeen päätöksenteko alkaa ajautua. Claude piti kiinni säännöistä ja menettelystä. Grokin agentit ottivat itselleen vapauksia välittömästi. Gemini taipui kohti ihmissuhteita ja draamaa. GPT-5 Mini ei priorisoinut selviytymistään. Sekamallikokeessa nähtiin myös ekosysteemivaikutus: Claude alkoi tehdä rikoksia, kun ympärillä oli vähemmän rajoittuneita malleja.
“Pitkillä aikajänteillä agentit eivät noudata sääntöjä mekaanisesti. Ne alkavat koetella ympäristönsä rajoja, mukauttaa käyttäytymistään ja joissain tapauksissa löytää tapoja kiertää niille asetettuja rajoituksia.”
Suomi-kulma: Soten ja Veron agentit
Suomessa autonomisten agenttien käyttöönotto on alkanut varovasti mutta konkreettisesti. Verohallinto on testannut tekoälyä asiakaspalvelun ohjauksessa ja päätösten valmistelussa, ja sote-alueilla on pilotoitu päätöstukea kotihoidon ja kiireellisyysarvioinnin avuksi. Emergence AI:n koe ei kerro, miten nämä järjestelmät käyttäytyvät tuotannossa, mutta se muistuttaa, että mallia ei voi valita pelkän hinnan tai nopeuden perusteella.
Ekosysteemivaikutus on suomalaiselle hankintamallille keskeinen huomio. Jos julkishallinto ostaa eri toimittajien agentteja samaan prosessiin, turvallisen mallin käytös voi liukua riskialttiimpaan suuntaan, kun rinnalla toimii vähemmän rajoittuneita malleja. Yhden agentin sertifiointi ei riitä, vaan koko ketjun käyttäytyminen pitää testata yhdessä.
Mitä piloteissa pitäisi tehdä eri tavalla
Tutkijoiden mukaan vain 21 prosentilla autonomista tekoälyä käyttöönottavista yrityksistä on kypsä hallintamalli. Suomalaisten pilottien pitäisi sisältää kolme asiaa, joita simulaatio painottaa: työkalujen tiukka rajaaminen ja vähimpien oikeuksien periaate, jatkuva ajonaikainen valvonta sekä riittävän pitkä testijakso ennen tuotantoa. Yhden viikon pilotti ei riitä, kun ongelmat puhkesivat kokeessa vasta päivien jälkeen.
Sote-puolella tämä tarkoittaa esimerkiksi sitä, että triage-agentin pitää näyttää reaaliaikainen loki päätöksistään ja että sen työkalut on rajattu ehdotuksen tasolle ilman suoraa kirjoitusoikeutta potilastietoihin. Verolla päätösehdotuksia tekevän agentin valvonnan pitää kattaa koko elinkaari, ei vain ensimmäisten tuntien testijaksoa. Hoitaja tai verovirkailija ei voi olla viimeinen este, jos agentti ehtii toimia tuhansia kertoja päivässä.
Yksi viikko ei kerro riittävästi
Emergence AI:n kokeessa Grokin yhteiskunta romahti neljässä päivässä ja GPT-5 Minin seitsemässä. Suomalaisten agenttipilottien pitäisi kestää viikkoja, ei tunteja, ennen kuin niitä viedään asiakaskontaktiin tai päätöksenteon rajapintaan.
