Tekoäly kirjoitti – ja aivot luulivat tehneensä sen itse

Mikä LLM-harha oikein on?

Hyunwoo Kim ja kollegat ddai Inc. -tutkimuslaitoksesta julkaisivat 16. huhtikuuta arXivissa paperin, joka antaa nimen ilmiölle, jota moni on huomannut mutta harva on saanut kiinni. 'LLM Fallacy' tarkoittaa käyttäjän systemaattista erehdystä: hän tulkitsee kielimallin avulla syntyneen tuotoksen todisteeksi omasta itsenäisestä osaamisestaan. Mitä sujuvampi vuorovaikutus, sitä hämärämpi raja ihmisen ja koneen kontribuution välillä.

Paperi on käsitteellinen eikä sisällä kontrolloituja kokeita. Tekijät sanovat sen itse suoraan: kyseessä on observational grounding, ei empiirisestä datasta johdettu yleistys. Se kannattaa pitää mielessä. Silti paperin neljä sovellusaluetta kuvaavat arjesta tuttuja tilanteita tarkasti.

Neljä aluetta, joilla ilmiö näkyy

Koodauksessa käyttäjä saa toimivan skriptin mutta ei ymmärrä, miksi se toimii, tai mitä sen arkkitehtuurissa on vikaa, kun se lakkaa toimimasta. Kirjoituksessa kielimalli tuottaa jäsennellyn tekstin, jonka rytmistä ja argumentaatiosta käyttäjä ottaa kiitokset itselleen. Analyyttisissa tehtävissä LLM rakentaa selitysrungot, jotka käyttäjä omaksuu ajatteluksi, vaikka alkuperäinen jäsennys tulee mallista. Kielitaidossa toisella kielellä syntyvä sujuva viesti vahvistaa illuusiota, että käyttäjä hallitsee kielen, jota hän ei osaa muodostaa ilman avustusta.

Kaikissa neljässä tapauksessa mekanismi on sama. Paperi kutsuu tätä systemaattiseksi erkanemiseksi koetun ja todellisen kyvykkyyden välillä. Itseluottamus kasvaa nopeammin kuin osaaminen, ja kuilu ei ole kosmeettinen. Kun LLM ei ole saatavilla, työn laatu putoaa odottamattomasti.

Samansuuntaisia havaintoja muista tutkimuksista

Samansuuntaiset tulokset näkyvät muissa 2025–2026 julkaistuissa tutkimuksissa. ACM:n Beginners Struggle to Understand LLM-Generated Code -paperissa opiskelijat yliarvioivat ongelmanratkaisukykyään, kun tuotos syntyi tekoälyavustuksella. ScienceDirectin maaliskuussa 2025 julkaisemassa Self-assessment accuracy in the age of artificial Intelligence -tutkimuksessa LLM-palaute ei parantanut opiskelijoiden itsearviointitaitoa keskimäärin, ja matalimman lähtötason opiskelijat kärsivät suurimmasta illuusiosta.

Uutta Kimin paperissa on typologia. Aiemmat työt käsittelivät yhtä osa-aluetta kerrallaan, usein opetuskontekstissa. Nyt ilmiö on koottu yhden käsitteen alle ja osoitettu samalle kognitiiviselle virheelle koodin, tekstin, analyysin ja kielen välillä.

Suomalainen tutkimusnäkökulma

Helsingin yliopistossa Tuukka Ruotsalon johtama Cognitive Computing -ryhmä tutkii juuri sitä rajapintaa, jolla LLM-harha syntyy: mitä ihminen ottaa omakseen laskennallisesta avustuksesta ja mitä jää koneen kontolle. Ryhmä julkaisee HCI- ja tiedonhakukonferensseissa, ja se on osa Aalto-yliopiston ja Helsingin yliopiston yhteistä HIIT-yksikköä.

Teemalla on toinenkin kiinnekohta Suomessa. Teemu Roosin johtama Elements of AI -kurssi on opettanut yli miljoonaa ihmistä AI-lukutaidon alkeisiin, ja yli 250 suomalaisyritystä on käyttänyt kurssin yritysversiota henkilöstön koulutuksessa. Kurssin perusajatus, että käyttäjän pitää ymmärtää mitä kone tekee ja mitä se ei tee, istuu nyt uudessa valossa. LLM-harhan torjuminen vaatii samaa lukutaitoa mutta syvemmällä tasolla: ei riitä tietää mistä tekoäly tulee, pitää tunnistaa hetket jolloin aivot kuvittelevat sen työn omakseen.

Mitä tämä ei vielä tarkoita

Paperi ei todista, että ihmisten osaaminen laskisi tekoälyn käytön myötä. Se ei osoita mekanismia määrällisesti eikä ehdota koulutuskäytännön muutoksia näytön varassa. Kuilu koetun ja todellisen osaamisen välillä voi olla myös ohimenevä ilmiö, jonka käyttäjät korjaavat itse törmätessään tilanteeseen, jossa LLM-avustusta ei ole.

Paperin arvo on käsite ja yhtenäinen kehys. Molemmat ovat tutkimuskentällä hyödyllisiä, kun seuraavien vuosien empiirinen työ yrittää erottaa sujuvan tuotoksen todellisesta osaamisen kasvusta.

Mitä tämä tarkoittaa käytännössä

Suomalaiselle kehittäjätiimille yksi konkreettinen toimenpide-ehdotus: sopikaa viikoittainen tunti, jolloin koodia kirjoitetaan ilman LLM-avustusta. Ei harjoituksen vuoksi vaan kalibroinnin vuoksi. Se paljastaa nopeasti, mitkä taidot ovat omia ja mitkä lainaksi otettuja. Sama periaate pätee toimittajiin, tutkijoihin ja kääntäjiin: jos et tiedä mikä osa tuotoksesta on sinun, et voi arvioida laatua etkä kehittyä.