Tekoälymallien päättelykyvyn mittaaminen on muuttunut hankalaksi. Perinteiset testit ovat kyllästyneet, kun huippumallit ratkovat ne lähes virheettömästi. Siksi katse on kääntynyt testeihin, jotka yhä erottelevat kärjen kärjestä. Yksi niistä on GPQA Diamond, ja siinä Anthropicin uusi Claude Mythos Preview kiilasi juuri kaikkien ohi lukemalla 94,6 prosenttia.
Testi, jota edes tohtorit eivät läpäise
GPQA on 448 monivalintakysymyksen kokoelma, jonka ovat laatineet biologian, fysiikan ja kemian tohtoritason asiantuntijat. Diamond on sen vaikein osajoukko: 198 kysymystä, joissa alan asiantuntijat ovat yksimielisiä oikeasta vastauksesta mutta joissa ulkopuoliset epäonnistuvat toistuvasti.
Luvut kertovat vaikeustason. Saman alan tohtorit tai tohtoriopiskelijat pääsevät noin 65 prosentin tarkkuuteen. Taitavat mutta alan ulkopuoliset arvioijat jäävät 34 prosenttiin, vaikka he saavat käyttää rajattomasti internetiä ja pähkäillä keskimäärin yli puoli tuntia kysymystä kohti. Juuri tästä tulee lempinimi Google-proof: vastausta ei voi hakea hakukoneella.
Kun kysymystä ei voi ratkoa hakemalla, testi mittaa aidosti päättelyä. Mallin on rakennettava vastaus vaihe vaiheelta faktojen yhdistelmästä. Tämä selittää, miksi GPQA Diamond erottelee frontier-mallit toisistaan silloinkin, kun helpommat testit näyttävät tasapeliä.
Kärki on tiukassa nipussa
Mythosin 94,6 prosenttia ei ole irtiotto vaan niukka johto. Googlen Gemini 3.1 Pro seuraa lukemalla 94,3 ja Anthropicin edellinen huippumalli Claude Opus 4.7 on 94,2 prosentissa. Kolmen kärki mahtuu alle puolen prosenttiyksikön sisään. Kun kysymyksiä on 198, ero kärkimallien välillä on käytännössä muutama oikea vastaus suuntaan tai toiseen.
Laajemmassa päättelyn kokonaisarviossa, joka niputtaa yhteen sadat testit logiikasta monivaiheiseen päättelyyn, Mythos johtaa pisteellä 71,0. Grok 4.1 puolestaan hallitsee erästä laajempaa yhdistelmätestiä lukemalla 97,6. Kärkipaikka riippuu siis siitä, mitä mittaria katsoo. Sama malli voi olla ykkönen yhdessä ja kolmas toisessa.
Claude Mythos Preview
Gemini 3.1 Pro
Claude Opus 4.7



