Nea kirjoittaa esseensä itse, mutta kone voi väittää muuta

Nea Oksanen kirjoittaa esseensä itse. Tampereen yliopiston mediatutkimuksen opiskelija ei käytä tekoälyä vapaaehtoisesti, mutta jokaisen tekstin kohdalla hän miettii silti, näyttääkö se ihmisen kirjoittamalta.

Huoli ei ole aiheeton. Tekoälyn tunnistustyökalut erehtyvät, ja tutkimusten mukaan virheet osuvat myös ihmisten kirjoittamiin teksteihin. Pahiten ne kohtelevat niitä, jotka kirjoittavat muulla kuin äidinkielellään.

Oksanen kertoi tilanteestaan Ylen lokakuussa julkaistussa jutussa. Hän on lopettanut ajatusviivojen käytön, koska ChatGPT viljelee niitä. Virkkeet ovat lyhyitä, ja joukossa on välillä tarkoituksella persoonallisempia sanoja.

Professorikin muutti tapaansa kirjoittaa

Ilmiö ei koske vain opiskelijoita. Tampereen yliopiston viestinnän ja median tutkimuksen professori Kaarina Nikunen sanoi Ylelle, että ongelma on tuttu lähes kaikille. "Se on ongelma, jonka kanssa melkein kaikki tunnistavat kamppailevansa", hän sanoi. Nikunen on itse alkanut tuoda tekstiinsä näkyvämmin omaa ajatteluaan.

Nikusen mukaan tekoäly tuottaa sujuvaa tekstiä, joka on "hyvin kaavamaista ja toisteista". Yksi tunnusmerkki on tapa jakaa asiat kolmeen osaan. "Jos ajattelu on ulkoistettu koneelle, niin ajatusprosessi ei voi näkyä tekstissä", Nikunen sanoi.

Oksasella on muitakin syitä pysyä erossa tekoälystä. Hän pelkää sen kaventavan omaa ajattelua ja on huolissaan ympäristövaikutuksista. Hakukoneenkin hän vaihtoi, koska Googlessa tekoälyn vastaus tulee ensimmäisenä.

Tunnistin arvaa, ja arvaus osuu usein väärin

Tekoälyn tunnistusohjelmat eivät lue tekstiä niin kuin opettaja. Ne arvioivat, kuinka ennustettavia sanavalinnat ja lauserakenteet ovat. Kone kirjoittaa ennustettavasti, mutta niin kirjoittaa myös ihminen, jonka sanavarasto on suppea tai joka noudattaa opittuja malleja tarkasti.

Stanfordin yliopiston tutkijat testasivat vuonna 2023 seitsemää yleistä tunnistinta. Aineistona oli 91 esseetä, jotka englantia vieraana kielenä opiskelevat olivat kirjoittaneet TOEFL-kielikokeeseen. Tunnistimet luokittelivat niistä keskimäärin 61 prosenttia tekoälyn tuottamiksi. Kaikki seitsemän olivat yksimielisiä 18 esseen kohdalla, ja ainakin yksi tunnistin liputti 89 esseetä 91:stä. Yhdysvaltalaisten kahdeksasluokkalaisten esseet ne tunnistivat lähes virheettömästi.

Tutkimusta johtanut Stanfordin tutkija James Zou ei säästellyt sanojaan Stanfordin HAI-instituutin julkaisemassa jutussa: "Nykyiset tunnistimet ovat selvästi epäluotettavia ja helposti huijattavia." Alkukielellä englanniksi: "Current detectors are clearly unreliable and easily gamed." Tutkimus julkaistiin Patterns-tiedelehdessä.

Kansainvälinen kahdeksan tutkijan ryhmä päätyi samaan. Debora Weber-Wulffin ja kollegoiden tutkimuksessa testattiin 14 työkalua, mukana kaupalliset Turnitin ja PlagiarismCheck. Johtopäätös oli, että saatavilla olevat työkalut eivät ole "tarkkoja eivätkä luotettavia".

Helsingin yliopisto: luotettavaa tunnistusta ei ole

Suomalaisissa yliopistoissa tekoälyn käyttö on pääsääntöisesti sallittua, kunhan siitä kerrotaan. Helsingin yliopisto toteaa opettajille suunnatussa ohjeessaan suoraan, että tällä hetkellä on mahdotonta päätellä luotettavasti, onko vastauksen tuottanut tekoäly vai opiskelija. Tunnistuspalvelujen tulokset ovat ohjeen mukaan vain arvioita, ja ne voivat vääristyä, jos tekoälyä on käytetty tekstin hiomiseen tai kääntämiseen.

Opettajat eivät saa syöttää opiskelijoiden vastauksia yliopiston ulkopuolisiin palveluihin. Jos opettaja epäilee luvatonta käyttöä, ohje neuvoo keskustelemaan opiskelijan kanssa ja selvittämään, vastaavatko tämän taidot palautettua työtä.

Helsingissä opiskelijan on kirjallisissa töissä ilmoitettava myös se, ettei hän käyttänyt tekoälyä. Tampereen yliopiston opiskelijanoppaan mukaan käytöstä pitää raportoida "avoimesti ja läpinäkyvästi sovelluksesta riippumatta", ja väärinkäyttö on opintovilppiä. Aallossa opiskelija on velvollinen kertomaan pyydettäessä, miten ja miksi hän on tekoälyä käyttänyt. Tampereen ja Aallon julkisissa ohjeissa tunnistusohjelmia ei käsitellä lainkaan.

Kun todistustaakka siirtyy kirjoittajalle

Väärä epäily on opiskelijalle raskas. Vilppiepäily voi johtaa kurinpitomenettelyyn, ja jos epäily nojaa ohjelman antamaan todennäköisyyteen, kirjoittajan on vaikea osoittaa tekstin olevan omaa. Stanfordin tutkimus koski englantia, mutta riski kohdistuu todennäköisesti samalla tavalla vaihto-opiskelijoihin ja maahanmuuttajiin, jotka kirjoittavat suomeksi vieraalla kielellä.

Sama epäluulo leviää kampuksen ulkopuolelle. Työhakemuksia, asiakaspalautteita ja lehtijuttuja luetaan nyt tekoälyn tunnusmerkkejä etsien. Kun lukijat alkavat metsästää ajatusviivoja, ihmiset alkavat kirjoittaa välttääkseen niitä. Oksanen tekee sitä jo.

Paine kasvaa, sillä seuraavat opiskelijapolvet käyttävät tekoälyä arkisesti. AI Suomi kertoi aiemmin, että lähes joka toinen 11–17-vuotias käyttää tekoälyä päivittäin. Valvottu koe on asia erikseen: kun Ylen toimittaja yritti käyttää paikallista kielimallia AMK-valintakokeessa, koe lukittui noin kymmenessä minuutissa. Siinä kiinni jäi laitteen toiminta, ei tekstin tyyli.

Nikunen etsii ratkaisua muualta kuin ohjelmista. "Meidän pitää itse arvostaa ihmisiä tiedon tuottajina", hän sanoi Ylelle. Helsingin yliopiston ohje päätyy käytännössä samaan: kun epäily herää, opettajan pitää puhua opiskelijan kanssa.