Tekoälyn kirjoittama paperi läpäisi ICLR:n vertaisarvion

Tokiolaisen Sakana AI:n kehittämä AI Scientist -järjestelmä on saanut tieteenteon koko kierroksen mahtumaan yhden ohjelmiston sisään. Hypoteesin keksiminen, koodin kirjoittaminen, kokeiden ajaminen, käsikirjoituksen laadinta LaTeX-muotoon ja jopa oman työn vertaisarviointi tapahtuvat ilman, että ihminen koskee näppäimistöön kierrosten välillä. Nature julkaisi maaliskuussa järjestelmän kuvauksen Sakanan, Brittiläisen Kolumbian yliopiston, Vector-instituutin ja Oxfordin tutkijoiden yhteistyönä.

Tärkein kohu liittyy yhteen järjestelmän kirjoittamaan paperiin. AI Scientist-v2 lähetti kolme käsikirjoitusta ICLR 2025 -konferenssin ICBINB-työpajaan (I Can't Believe It's Not Better) ilman, että arvioijat tiesivät kirjoittajaa. Yksi paperi sai arvosanat 6, 7 ja 6, eli keskiarvon 6,33, ja ylitti hyväksymiskynnyksen. Pisteet olivat korkeammat kuin 55 prosentilla ihmisten kirjoittamista työpajan papereista. Tekijät vetivät paperin pois ennen virallista julkaisua eettisistä syistä, mutta vertaisarvioinnin kyllä se ehti läpäistä.

Neljä vaihetta, yksi agentti

Järjestelmä saa karkean tutkimussuunnan ja lähtee siitä eteenpäin neljässä vaiheessa. Ensiksi se kahlaa läpi alan kirjallisuutta ja muotoilee hypoteesin. Toiseksi se ohjelmoi koetilanteet ja ajaa ne käyttäen rinnakkaista agenttipohjaista puuhakua. Kolmanneksi se kirjoittaa varsinaisen tieteellisen tekstin ja jopa pyytää näkökykyä omaavalta perustusmallilta palautetta omiin kuvaajiinsa. Viimeiseksi sisäänrakennettu Automated Reviewer arvioi paperin laatua, ja Sakanan oman mittauksen mukaan se osuu ihmisarvioitsijoiden kanssa samoihin johtopäätöksiin 69 prosentin tarkkuudella.

Kuulostaa enemmältä kuin se on. Hyväksytty paperi käsitteli kompositionaalista regularisaatiota neuroverkoissa, eli melko kapeaa metodologista detaljia. Sakanan oma sisäinen arvio totesi, että yksikään kolmesta paperista ei olisi yltänyt konferenssin pääsessioon, vaan työpajataso oli yläraja. Järjestelmä keksii edelleen ajoittain naiiveja ideoita, kompastelee monimutkaisessa koodissa ja hallusinoi sitaatteja sekä kahdentaa kuvia liitteisiin.

Vertaisarviointi paineen alla

Konferenssit kärsivät jo nyt käsittelyruuhkasta. NeurIPS sai viime vuonna yli 25 000 lähetystä, ICML lähemmäs 13 000. Jos hypoteesin keksimisestä, kokeiden ajamisesta ja paperin kirjoittamisesta tulee niin halpaa, että jokainen tutkijaopiskelija pystyy lähettämään muutaman sadan dollarin arvosta käsikirjoituksia viikoittaiset, sokkoarviointi murtuu määrän alle. Washingtonin yliopiston laskennallinen yhteiskuntatieteilijä Jevin West kuvasi Naturen kommentissa AI Scientistia teknisenä saavutuksena, mutta varoitti samalla siitä, mitä konferensseille tapahtuu, kun halpojen paperien letku avataan kunnolla.

Suomessa vertaisarvioinnin uskottavuus on FCAI:n ja Aalto-yliopiston Reliable AI -ryhmän ydinaluetta. Pyysin tähän juttuun kommenttia kolmelta kotimaiselta tutkijalta FCAI:sta, Aallon Reliable AI -ryhmästä ja VTT:n testausryhmästä, mutta vastauksia ei ennen julkaisua ehtinyt tulla. Aikaisemmissa keskusteluissa FCAI:n piirissä on tuotu esiin, että automaattisten työkalujen pitäisi näkyä avoimesti paperin metatiedoissa, jotta arvioija osaa kohdistaa epäilynsä oikein. Palaan aiheeseen erillisessä jutussa, jossa käsittelen myös sitä, miten koneluettava päättelyketju voitaisiin standardoida arviointitilanteissa.

Mitä tutkijan ammatille tapahtuu

Sakanan toinen perustaja David Ha on itse korostanut, että järjestelmä ei ole vielä huippuhuonokirjoittajaakaan parempi pääkonferensseissa. Pikemminkin se siirtää tutkijan työtä ylöspäin: kysymyksenasettelusta, alan suunnasta ja eettisestä punninnasta tulee yhä keskeisempää, kun rutiinikoodaus ja muotoiluvaihe automatisoituvat. Aallon väitöskirjantekijälle se voi tarkoittaa, että ensimmäinen oma julkaisu syntyy puolessa vuodessa entisen kahden sijaan, mutta kilpailu ideatasolla kovenee samassa suhteessa.

Tavalliselle lukijalle kysymys koskee sitä, mihin tieteellisiin papereihin voi luottaa. Lääkärin lukema kliininen tutkimus, hallinnon nojaama riskiarvio ja koulun käyttämä oppikirja nojaavat kaikki vertaisarvioinnin oletukseen siitä, että toinen ihminen on katsonut työn kriittisesti. Jos paperin on sekä kirjoittanut että arvioinut sama perustusmalliperhe, valvonta käytännössä putoaa pois. Ratkaisu ei ole kieltää työkaluja vaan vaatia läpinäkyvyyttä siitä, kuka tai mikä on tehnyt mitäkin.

Seuraava askel on hallinnon

Nature julkaisi samaan aikaan pääkirjoituksen, jossa se kehotti tutkimuslaitoksia, rahoittajia ja kustantajia päivittämään ohjeitaan ennen kuin AI Scientistin kaltaiset järjestelmät yleistyvät. Suomessa Akatemia ja Tutkimuseettinen neuvottelukunta TENK eivät ole vielä antaneet erillistä ohjetta täysin koneen tuottamasta tutkimuksesta, vaan asia kulkee yleisten generatiivisen tekoälyn ohjeiden alla. Jos seuraava ICBINB-tason läpimurto tapahtuu suomalaisessa konferenssityöpajassa, ohjeen kirjoittamiseen ei ole enää aikaa.