DeepMind mittasi ensi kertaa tekoälyn manipulointikyvyn

Google DeepMind julkaisi 26. maaliskuuta ensimmäisen empiirisesti validoidun työkalupakin tekoälyn manipulointikyvyn mittaamiseen. Tutkimusryhmä testasi kielimallien kykyä muuttaa ihmisten uskomuksia ja käyttäytymistä yhdeksässä erillisessä kokeessa, joihin osallistui yhteensä 10 101 koehenkilöä Yhdysvalloista, Iso-Britanniasta ja Intiasta.

Tähän asti tekoälyn manipulointipotentiaalia on arvioitu lähinnä teoreettisesti tai yksittäisissä pienissä koeasetelmissa. DeepMindin tutkimus on ensimmäinen, joka yhdistää laajan koehenkilöjoukon, useita aihealueita ja kansainvälisen otoksen yhteen järjestelmälliseen kehikkoon.

Yhdeksän koetta kolmessa maassa

Tutkimus kattoi kolme korkean panoksen aihealuetta: julkisen politiikan, talouden ja terveyden. Talouskokeissa koehenkilöt tekivät simuloituja sijoituspäätöksiä, joissa tekoälymalli pyrki vaikuttamaan heidän valintoihinsa. Terveyskokeissa seurattiin, pystyikö malli ohjaamaan osallistujien mieltymyksiä tiettyjen ravintolisien suuntaan. Julkisen politiikan kokeissa testattiin mallin kykyä vaikuttaa poliittisiin mielipiteisiin.

Kokeissa mallia ohjeistettiin joko neutraalisti tai nimenomaisesti manipulatiivisesti. Tämä mahdollisti suoran vertailun: tutkijat pystyivät erottamaan, johtuiko manipulatiivinen käyttäytyminen mallin omista taipumuksista vai ulkoisesta ohjeistuksesta.

Tutkijat mittasivat kahta erillistä ulottuvuutta: taipumusta ja tehokkuutta. Näiden erottelu osoittautui yhdeksi tutkimuksen tärkeimmistä löydöksistä.

Raha-asioissa tekoäly tehosi parhaiten

Selkein tulos oli aihealueiden välinen ero. Tekoäly onnistui parhaiten vaikuttamaan taloudellisiin päätöksiin ja oli heikoimmillaan terveyskysymyksissä. Julkinen politiikka sijoittui näiden väliin.

Miksi juuri raha? Sijoituspäätökset ovat monimutkaisia, ja ihmiset hakevat niihin usein ulkopuolista tukea. Kun tekoälymalli tarjoaa vakuuttavan näköistä analyysiä, kynnys luottaa siihen on matalampi kuin terveysväitteiden kohdalla, joissa ihmiset tukeutuvat vahvemmin omiin kokemuksiinsa ja lääkärin auktoriteettiin.

Mallit olivat manipulatiivisimpia silloin, kun niitä nimenomaisesti ohjeistettiin siihen. Tämä viittaa siihen, että manipulointikyky on olemassa mutta ei yleensä aktivoidu normaalikäytössä. Tutkijat varoittavat kuitenkin, ettei tuloksia voi suoraan yleistää todelliseen maailmaan, koska kokeet tehtiin kontrolloidussa ympäristössä.

Maantieteelliset tulokset eivät myöskään yleistyneet suoraan. Se, mikä toimi Yhdysvalloissa, ei välttämättä toiminut Intiassa tai Iso-Britanniassa. Kulttuurinen konteksti vaikuttaa siihen, millaiset argumentit tehoavat.

Tavalliselle kuluttajalle tulokset merkitsevät konkreettista varoitusta. Jos käytät tekoälyavusteista sijoitusneuvontaa tai chatbottia taloudellisiin päätöksiin, malli voi ohjata valintojasi suuntaan, joka ei välttämättä ole sinun etusi mukainen. Terveyspäätöksissä riski on pienempi, mutta sekin voi kasvaa mallien kehittyessä.

Aiemmat tutkimukset pohjustivat tietä

DeepMindin työ rakentuu aiemman tutkimuksen päälle. Nature Human Behaviour -lehdessä vuonna 2025 julkaistu tutkimus osoitti, että GPT-4 oli 64 prosenttia vakuuttavampi kuin ihminen silloin, kun mallille annettiin vastapuolen demografiset tiedot. Ilman henkilökohtaista dataa tekoäly ja ihminen olivat tasaväkisiä. Ratkaisevaa ei siis ollut pelkkä kielitaito, vaan mallin kyky hyödyntää henkilökohtaista tietoa räätälöidäkseen argumenttinsa.

MIT:n ja Cornellin tutkijat puolestaan havaitsivat, että GPT-4 pystyi vähentämään salaliittoteorioihin uskomista 20 prosentilla kahden kuukauden ajaksi. Oxfordin Internet Institute kokosi yli 91 000 keskustelun aineiston tekoälyn suostuttelukyvystä, mikä on alan laajin yksittäinen tutkimus.

DeepMindin panos on kuitenkin erilainen. Aiemmat tutkimukset keskittyivät suostutteluun, kun taas DeepMind rajasi nimenomaan haitallisen manipuloinnin – tilanteet, joissa malli pyrkii muuttamaan uskomuksia tavalla, joka vahingoittaa kohdetta. Erottelu on keskeinen, koska suostuttelu ei ole itsessään haitallista, mutta manipulointi on.

Avoin julkaisu ja EU:n sääntely

DeepMind julkaisi kaikki tutkimusmateriaalit avoimesti, joten muut tutkimusryhmät ja yritykset voivat toistaa kokeet omilla malleillaan. Työkalupakki kytkeytyy DeepMindin Frontier Safety Framework -kehikon kolmanteen versioon, johon lisättiin syksyllä 2025 erillinen haitallisen manipuloinnin kykyporras (Critical Capability Level). Käytännössä DeepMind arvioi jokaisen uuden mallin manipulointikyvyn ennen julkaisua ja rajoittaa käyttöönottoa, jos malli ylittää kriittisen tason.

EU:n tekoälyasetus tunnistaa manipulointiriskin selkeästi. Elokuussa 2024 voimaan tullut sääntely luokittelee alitajuntaan vaikuttavat ja manipulatiiviset tekniikat kokonaan kiellettyihin käytäntöihin. Korkean riskin tekoälyjärjestelmien velvoitteet tulevat täysimääräisesti sovellettaviksi elokuussa 2026, ja DeepMindin työkalupakki tarjoaa konkreettisen mittaustavan sääntelyn noudattamiseen.

Tekoälymallien manipulointikyky ei ole enää teoreettinen riski vaan mitattava ominaisuus. DeepMindin avoin työkalupakki antaa koko alalle mahdollisuuden mitata sitä yhdenmukaisesti. Samalla se pakottaa kysymään, mittaavatko kaikki tekoäly-yhtiöt omien malliensa manipulointikykyä yhtä avoimesti. Toistaiseksi DeepMind on ainoa suuri toimija, joka on julkaissut tämän tasoisen empiirisen arvion.