Tekoäly saa aivosi antautumaan

Kun ChatGPT tarjoaa vastausta logiikkapulmaan, useimmat ihmiset hyväksyvät sen ja lopettavat ajattelemisen. Väärästäkin vastauksesta tulee oma vastaus.

Pennsylvanian yliopiston Wharton-kauppakorkeakoulun tutkijat Steven D. Shaw ja Gideon Nave halusivat mitata, kuinka syvälle tämä taipumus ulottuu. He testasivat 1 372 koehenkilöä kolmessa ennakkorekisteröidyssä kokeessa, joissa kertyi yhteensä 9 593 päätöstilannetta. Koehenkilöt ratkaisivat kognitiivisen reflektiotestin tehtäviä – logiikkapulmia, joissa ensimmäinen mieleen tuleva vastaus on väärä ja oikea ratkaisu vaatii tarkempaa pohdintaa.

Tyypillinen esimerkki: maila ja pallo maksavat yhteensä 1,10 euroa, ja maila maksaa euron enemmän kuin pallo. Paljonko pallo maksaa? Intuitiivinen vastaus on 10 senttiä, mutta oikea on 5 senttiä. Halutessaan koehenkilöt saivat kysyä neuvoa ChatGPT:ltä, joka käytti GPT-4o-mallia. Tutkijat manipuloivat tekoälyn tarkkuutta tarkoituksella: osa vastauksista oli oikeita, osa tahallaan vääriä. Yli puolet koehenkilöistä konsultoi tekoälyä jokaisessa tehtävässä.

Tarkkuus putosi, itsevarmuus nousi

Ilman tekoälyä koehenkilöiden tarkkuus oli 45,8 prosenttia. Kun tekoäly antoi oikean vastauksen, tarkkuus nousi 71 prosenttiin – 25 prosenttiyksikön hyppäys. Mutta kun tekoäly antoi tahallaan väärän vastauksen, tarkkuus romahti 31,5 prosenttiin, eli yli 14 prosenttiyksikköä alle lähtötason. Koehenkilöt eivät pelkästään epäonnistuneet virheen havaitsemisessa, vaan he pärjäsivät huonommin kuin ilman tekoälyapua.

Luottamuksen muutos oli yhtä paljastava. Tekoälyä käyttäneiden itsevarmuus omiin vastauksiin oli 77 prosenttia, kun ilman tekoälyä se jäi 65,3 prosenttiin. Tutkijat kutsuvat ilmiötä lainatuksi itsevarmuudeksi: koehenkilöt omaksuivat koneen varmuuden omakseen tarkistamatta perusteita. Tekoäly teki ihmisistä varmempia riippumatta siitä, olivatko vastaukset oikeita vai vääriä.

Järjestelmä 3: keinotekoinen kognitio

Shaw ja Nave laajensivat Nobel-palkitun Daniel Kahnemanin tunnetun ajattelumallin kolmiosaiseksi. Kahnemanin järjestelmä 1 on nopea ja intuitiivinen, järjestelmä 2 hidas ja harkitseva. Tutkijoiden uusi järjestelmä 3 on keinotekoinen kognitio – tekoälyn tarjoama ulkopuolinen ajattelujärjestelmä, joka on aina saatavilla ja vastaa sekunneissa.

Ratkaiseva kysymys on, käyttääkö ihminen järjestelmää 3 strategisesti vai antautuuko sille. Kognitiivinen ulkoistaminen on strategista: ihminen kysyy tekoälyltä ja arvioi vastauksen kriittisesti, kuten laskimen tuloksen tarkistamisen. Kognitiivisessa antautumisessa ihminen hyväksyy vastauksen ilman arviointia. Harkitseva järjestelmä 2 ei käynnisty lainkaan.

Väärien vastausten kohdalla 79,8 prosenttia koehenkilöistä antautui ja hyväksyi virheellisen vastauksen sellaisenaan. Vain joka viides arvioi tekoälyn vastauksen kriittisesti ja päätyi oikeaan ratkaisuun.

Kuka vastustaa antautumista?

Kaikki eivät antautuneet yhtä helposti. Ihmiset, jotka luottivat tekoälyyn vahvasti, seurasivat väärää neuvoa 64 prosenttia todennäköisemmin kuin muut. Korkea ajatteluntarve – halu pohtia asioita omaehtoisesti – lähes kaksinkertaisti todennäköisyyden ohittaa virheellinen tekoälyvastaus. Korkea älyllinen kapasiteetti vaikutti samaan suuntaan.

Ne koehenkilöt, jotka eivät konsultoineet tekoälyä lainkaan, pärjäsivät täsmälleen yhtä hyvin kuin kontrolliryhmä. Pelkkä mahdollisuus käyttää tekoälyä ei heikentänyt ajattelua. Ongelma syntyi vasta, kun tekoälyn vastaukseen luotettiin sokeasti.

Tulokset koskettavat suoraan kouluja ja työpaikkoja. Jos opiskelija hyväksyy tekoälyn vastauksen arvioitta, kriittisen ajattelun taito ei kehity. Suomessa tekoälytyökaluja käytetään jo laajasti peruskouluista yliopistoihin, ja opettajien haasteeksi nousee se, miten tekoälyn tuottaman sisällön kriittistä arviointia voi opettaa. Työelämässä tekoälyä käyttävän asiantuntijan arvo riippuu yhä enemmän siitä, osaako hän arvioida saamaansa vastausta vai ainoastaan välittää sen eteenpäin.

Kolmas koe antoi toivoa. Kun koehenkilöille tarjottiin rahallinen kannustin oikeasta vastauksesta ja palautetta suorituksesta, antautuminen laski 79,8 prosentista 57,9 prosenttiin. Väärän vastauksen ohittaminen yli kaksinkertaistui: 20 prosentista 42,3 prosenttiin. Motivaatio ja tietoisuus omasta alttiudesta riittivät merkittävään parannukseen.

Kun tekoälytyökalut yleistyvät päätöksenteossa terveydenhuollosta rahoitukseen, antautumisen seuraukset kasvavat. Väärään vastaukseen luottaminen logiikkapulmassa on harmiton virhe, mutta väärään diagnoosiin tai riskiarvioon luottaminen on jotain aivan muuta. Tekoäly ei tee ihmisistä tyhmempiä, mutta se tarjoaa helpon tien olla käyttämättä omaa ajattelukykyään.