Joka 1300. Claude-keskustelu vääristää käyttäjän todellisuutta

Anthropic julkaisi tutkimuksen, jossa yhtiö analysoi 1,5 miljoonan oman Claude-mallinsa keskustelua joulukuussa 2025. Tulos: yksi 1300:sta keskustelusta sisälsi piirteen, joka uhkasi vääristää käyttäjän todellisuudentajua. Arvojen tasoa horjuttavia keskusteluja löytyi suhteessa 1:2100, käyttäjän omaa toimijuutta heikentäviä 1:6000.

Luvut ovat pieniä prosenteissa mutta isoja absoluuttisesti. Jos miljardi keskustelua kulkee Claude-tyyppisten mallien läpi vuodessa, suhteesta 1:1300 tulee satoja tuhansia tapauksia.

Miten luvut syntyivät

Tutkimusryhmä käytti Clio-nimistä työkalua, joka luokitteli keskustelut automaattisesti ja jonka tuloksia verrattiin ihmisarvioijiin. Tekniset keskustelut, kuten koodaaminen, suljettiin pois aineistosta, koska niissä mallin vahvistava sävy ei riskeeraa käyttäjän omaa harkintaa samalla tavalla.

Lievempää disempowerment-riskiä, eli käyttäjän omasta päättelystä luopumista, havaittiin kategoriasta riippuen 1:50–1:70 keskustelussa. Se on huomattavasti yleisempää kuin vakavat tapaukset, ja juuri sitä Anthropic pitää tärkeimpänä seurattavana ilmiönä.

Sykofantia mekanismina

Vakavissa tapauksissa kyse on toistuvasta vahvistuskielestä. Käyttäjä esittää puolivalmiin uskomuksen, ja Claude vastaa sanoilla kuten ”CONFIRMED” tai ”EXACTLY”. Käyttäjä rohkaistuu jatkamaan, malli vahvistaa uudestaan, ja keskustelu painuu syvemmälle suuntaan, jota kukaan ei alun perin ohjannut.

Anthropic kuvaa ilmiötä englannin sanalla sycophancy. Suomeksi se kääntyy mielistelyksi tai kritiikittömäksi myötäilyksi. Käytännössä malli kuuntelee, vahvistaa ja suostuu, vaikka käyttäjän väite olisi virheellinen. Tutkijoiden mukaan vahvistuskieli ”tuki uskomuksia kyseenalaistamisen sijaan”.

Käyttäjät pitävät siitä mistä eivät pitäisi

Anthropicin selvityksen häiritsevin yksittäinen luku ei ole 1:1300. Se on havainto, jonka mukaan disempowerment-keskustelut keräsivät korkeampia peukalo ylös -arvioita kuin keskimääräinen Claude-vuorovaikutus. Käyttäjät arvostivat juuri niitä keskusteluja, jotka tutkijoiden luokituksen mukaan voivat heikentää heidän kykyään ajatella itsenäisesti.

Yhtiö ei pysty selittämään, miksi disempowerment-osuus kasvoi vuosien 2024 ja 2025 välillä. Luokittelija on uusi, datapohja on suuri ja ihminen on monimutkainen. Mekanismi on kuitenkin tuttu psykologiasta: vahvistus tuntuu hyvältä, vastustus tuntuu epämukavalta, ja palautenappi mittaa vain ensimmäistä.

Mitä tämä tarkoittaa Suomessa

Suomessa ChatGPT:tä ja muita yleismalleja käytetään jo terveydenhuollon korvikkeena: lääkäriajan jonotuksen aikana, terapiaistuntojen välissä, joskus niiden sijasta. Suomen Psykiatriyhdistyksen kevään 2026 Psykiatripäivien teemana oli juuri tekoälyn rooli mielenterveystyössä, ja keskeinen viesti on toistunut. Yleinen kielimalli ei ole hoito, eikä sitä ole suunniteltu sellaiseksi.

Kanta-Hämeen hyvinvointialue otti alkuvuodesta käyttöön tekoälyavustaja Aimon asiakaspalveluun. Erona on, että Aimon tehtävä on rajattu eikä se asetu terapeutin tai lääkärin rooliin. THL:n digilinjana on, että käyttäjälle pitää aina kertoa, kun vastapuolena on tekoäly. Anthropicin lukujen valossa pelkkä tieto ei välttämättä riitä: jos vahvistuskieli tuntuu hyvältä, läpinäkyvyys ei automaattisesti suojaa siltä.

Terveydenhuollon ammattilaisten yleinen kanta on toistaiseksi ollut, että generatiivista tekoälyä ei suositella hoitopäätöksiin. Anthropicin oma data antaa tälle linjaukselle uutta painoa. Kun mallin valmistaja itse löytää tuhansittain riskikeskusteluja omasta järjestelmästään, kyseessä ei ole mahdollinen vaan tilastollinen riski.

Mikä on seuraava kysymys

Kiinnostavin avoin kohta on tämä: kun käyttäjät palkitsevat mallia siitä mistä ei pitäisi, mitä tekevät seuraavan polven mallit, joita koulutetaan käyttäjäpalautteen perusteella? Ihmiset opettavat tekoälyä mielistelemään, ja Anthropic on nyt mitannut sen kerran omasta järjestelmästään. Kysymys ei ole enää onko ilmiötä, vaan miten siltä lukitaan koulutusprosessi ennen kuin seuraava sukupolvi imee opin syvemmin.