7B-malli voitti 671B-jätin – salaisuus on opettaja

Stanfordin tutkijaryhmä julkaisi tällä viikolla arXiv-palvelussa artikkelin, joka kääntää tutun olettamuksen tekoälyn skaalauksesta. Heidän Self-Guided Self-Play -algoritmillaan (SGS) treenattu 7 miljardin parametrin DeepSeek-Prover-V2-malli ratkaisi enemmän formaaleja matemaattisia todistuksia kuin saman perheen 671 miljardin parametrin jätti pass@4-arvioinnissa. Pieni malli oli siis lopulta parempi kuin lähes satakertaa suurempi versionsa.

Tulos haastaa viime vuosien yhtälön, jossa parempi suorituskyky on tarkoittanut suurempaa mallia ja kalliimpaa harjoitusta. SGS osoittaa, että rajatussa tehtävässä opetuksen laatu voi voittaa parametrikoon, kun harjoitusdataa kuratoidaan älykkäästi mallin omilla resursseilla.

Kolme roolia, yksi malli

SGS:n ydin on yksinkertainen. Sama kielimalli ottaa kolme roolia: Conjecturer keksii uusia matemaattisia tehtäviä, Solver yrittää ratkaista ne, ja Guide arvioi keksittyjen ongelmien laatua. Aiemmissa self-play-menetelmissä Conjecturer ajautui tuottamaan keinotekoisen monimutkaisia tehtäviä, joista oppiminen ei käytännössä auttanut. Guide korjaa tätä pisteyttämällä ehdotetut ongelmat sen mukaan, kuinka relevantteja ne ovat ratkaisemattomille kohdetehtäville ja kuinka luonnollisia ne ovat matemaattisesti.

Tutkijat Luke Bailey, Kaiyue Wen, Kefan Dong, Tatsunori Hashimoto ja Tengyu Ma testasivat menetelmää Lean4-pohjaisissa todistustehtävissä, käyttäen kuratoitua D₃ₖ-aineistoa, jossa on noin 3 323 formaalia ongelmaa. SGS ohitti vahvimman vahvistusoppimisen vertailukohdan asymptoottisessa ratkaisuasteessa noin seitsemällä prosenttiyksiköllä ja saavutti sen tason alle 80 self-play-kierroksessa. 200 kierroksen jälkeen 7B-malli ylsi siihen, mihin 671B pass@4 -versionsa.

Miksi pieni voittaa suuren?

Vastaus on opetuksen laadussa. Suuret kielimallit oppivat ihmisten kirjoittamasta datasta, joka on hajanaista ja sisältää paljon kohinaa. Kun Guide valikoi syötteet, oppimateriaali on kohdennetumpaa kuin mikään ihmisen kuratoima kokoelma. SGS pakottaa Conjecturerin tuottamaan ongelmia, jotka ovat juuri sopivan vaikeita ja tähtäävät niihin aukkoihin, joita Solver ei vielä osaa.

Vuoden 2025 aikana ilmestyivät DeepSeek-Prover-V2 itse, ensimmäiset self-play-todistusagentit kuten STP (Dong ja Ma, helmikuu 2025) sekä Googlen ja OpenAI:n omat formaalin matematiikan kokeilut. Erona STP:hen Stanfordin tiimi näytti, että self-play skaalautuu pidemmälle. Aiempi STP-asetelma jämähti tasanteelle 1 miljoonan generoinnin jälkeen, mutta SGS jatkoi paranemista 6 miljoonaan asti. Synteettisesti tuotetun harjoitusdatan suunnittelu on noussut yhdeksi 2026:n keskeisistä tutkimusaiheista.

Suomi-kulma: Aalto ja FCAI synteettisen datan etulinjassa

Suomalaiselle tutkimukselle SGS osuu kotipesään. Aalto-yliopiston Probabilistic Machine Learning -ryhmä (ProbML), johon kuuluu professori Samuel Kasken johtamia hankkeita FCAI:n lippulaivaohjelmassa, on rakentanut synteettisen datan tuotantoa pitkään. Heidän kehittämänsä Twinify-ohjelmistopaketti tuottaa anonymisoituja synteettisiä kaksosia herkistä tietoaineistoista. Vaikka ProbML:n konteksti on lääketieteellinen ja yhteiskunnallinen, perusperiaate on sama: huolellisesti valvottu synteettinen data voi korvata tai jopa ylittää alkuperäisen datan opetusarvossa.

Mitä tämä ei vielä tarkoita

Tulokset rajautuvat formaaliin matematiikkaan, jossa todistuksen oikeellisuus voidaan tarkistaa automaattisesti Lean4-todistustarkistimella. Tämä on poikkeuksellinen ympäristö: vahvistus on halpaa ja yksiselitteistä. Yleisluontoisemmissa tehtävissä, kuten lääketieteellisessä päättelyssä tai juridiikan tulkinnassa, Guide-roolin pisteytys on huomattavasti vaikeampaa rakentaa luotettavaksi. SGS ei siis vielä tarkoita, että pieni malli voisi yleisesti korvata suuren, vaan että rajatuissa, todennettavissa tehtävissä koulutusresepti painaa enemmän kuin parametrikoko.

Mitä tämä tarkoittaa Suomessa

Konkreettinen otto suomalaiselle kehittäjälle: jos rakennat sovellusta, jonka onnistumisen voi automaattisesti todentaa – testit menevät läpi, SQL-kysely tuottaa odotetun rivin, JSON-validaattori hyväksyy – älä oleta että sinun on pakko hienosäätää 70 miljardin parametrin tai isompaa mallia. Aalto ProbML:n ja FCAI:n työ on osoittanut, että synteettisellä datalla rakennetaan kilpailukykyisiä erikoismalleja huomattavasti pienemmillä resursseilla. SGS antaa tähän uuden työkalun. Ennen kuin tilaat lisää GPU:ta, kokeile tuottaa parempaa harjoitusdataa.