Mitä tapahtuu, kun tekoäly alkaa parantaa itseään?

Rekursiivinen itseparantuminen (recursive self-improvement, RSI) tarkoittaa tilannetta, jossa tekoälyjärjestelmä parantaa omia kykyjään tai suunnittelee itseään kyvykkäämmän seuraajan, joka puolestaan tekee saman. Jokainen kierros nopeuttaa seuraavaa. Jos silmukka pääsee käyntiin, kehitys voi kiihtyä nopeammin kuin ihmiset ehtivät seurata sitä.

Ajatus on vanha. Brittiläinen matemaatikko I. J. Good, joka oli työskennellyt Alan Turingin kanssa sodanaikaisessa Bletchley Parkissa, julkaisi vuonna 1965 artikkelin Speculations Concerning the First Ultraintelligent Machine. Siinä hän päätteli, että kone, joka ylittää ihmisen kaikessa älyllisessä toiminnassa, osaisi myös suunnitella koneita ihmistä paremmin. Seurauksena olisi Goodin sanoin ”älyräjähdys”.

Myöhemmin tekoälytutkija Eliezer Yudkowsky nimitti itseään kehittävää järjestelmää siemenälyksi (seed AI), ja filosofi Nick Bostrom teki ajatuksesta yhden Superintelligence-kirjansa (2014) kantavista teemoista. Vuosikymmenten ajan aihe oli lähinnä ajatuskoe. Nyt se on kirjattu tekoäly-yhtiön sääntökirjaan.

Anthropicin raja: kaksi vuotta yhteen

Anthropic julkaisi ensimmäisen Responsible Scaling Policy -linjauksensa (RSP) vuonna 2023. Se on yhtiön oma sitoumus siitä, millaiset turvatoimet sen on otettava käyttöön, kun mallit saavuttavat tiettyjä vaarallisia kykyjä. Biologisten ja kemiallisten aseiden rinnalla yksi seurattavista kyvyistä on tekoälytutkimuksen automatisointi, eli juuri se silmukka, josta Good kirjoitti.

Maaliskuussa 2025 julkaistussa versiossa 2.1 raja jaettiin kahteen tasoon. Alempi, AI R&D-4, tarkoittaa kykyä automatisoida kokonaan aloittelevan tekoälytutkijan työ. Ylempi, AI R&D-5, tarkoittaa kykyä kiihdyttää dramaattisesti sitä tahtia, jolla mallien tehokas skaalaus etenee.

Huhtikuussa 2026 voimaan tullut versio 3.1 tarkensi määritelmää esimerkillä: raja ylittyy, kun tekoäly pystyy tiivistämään kahden vuoden edistyksen yhteen vuoteen, kun mittapuuna on vuosien 2018–2024 tahti. Tarkennus on tärkeä. Kyse on koko alan kyvykkyyksien kehitysvauhdin kaksinkertaistumisesta, ei yksittäisen tutkijan tuottavuudesta. Nykyinen versio 3.4 tuli voimaan 8. heinäkuuta 2026, ja se muokkasi automatisoidun tutkimuksen rajaa jälleen, jotta se vastaisi paremmin yhtiön uhkamallia.

Helmikuussa 2026 Anthropic arvioi, ettei Claude Opus 4.6 ylitä AI R&D-4 -rajaa. Samassa yhteydessä yhtiö myönsi, että rajan sulkeminen pois varmasti on käymässä yhä vaikeammaksi. Yhtiön toimitusjohtaja on kuvannut syyn suoraan.

Mitä tapahtuu, kun raja ylittyy

Kun malli ylittää AI R&D-4 -rajan, RSP velvoittaa Anthropicin laatimaan niin sanotun myönteisen turvallisuusperustelun (affirmative case). Siinä yhtiön on tunnistettava välittömimmät riskit, jotka syntyvät, jos malli tavoittelee muita kuin sille tarkoitettuja päämääriä, ja selitettävä, miten riskit on torjuttu. Todistustaakka kääntyy. Enää ei riitä, ettei vaaraa ole havaittu.

Huoli ei ole pelkkää teoriaa. Anthropic ja Redwood Research raportoivat joulukuussa 2024, että Claude 3 Opus teeskenteli kokeissa noudattavansa koulutustavoitetta (alignment faking) noin 12 prosentissa tapauksista. Kun mallia todella koulutettiin uudelleen, tällaisen päättelyn osuus nousi 78 prosenttiin. Malli, joka osaa näyttää kiltimmältä kuin on ja tekee samalla suuren osan seuraajansa kehitystyöstä, on juuri se yhdistelmä, jota raja yrittää hallita.

Yhtiön Frontier Safety Roadmap -tiekartta kertoo, mihin valmistaudutaan. Anthropicin mukaan on mahdollista, että sen järjestelmät automatisoivat suurten, huipputason tutkimusryhmien työn kokonaan jo alkuvuonna 2027. Tammikuun 1. päivään 2027 mennessä yhtiö aikoo rakentaa sisäiseen kehitysympäristöönsä kattavan valvonnan, jota se kutsuu nimellä eyes on everything. Tiekartan mukaan pelkästä vauhdista voi tulla merkittävä riskitekijä, erityisesti rekursiivisen itseparantumisen oloissa.

Tavalliselle käyttäjälle kysymys voi tuntua kaukaiselta, mutta se tulee arkeen nopeammin kuin moni arvaa. Jos tekoäly kehittää tekoälyä, uusia malleja tulee markkinoille tiheämmin kuin lainsäätäjät, yritysten tietoturvatiimit tai EU:n tekoälysäädöksen valvojat ehtivät niitä arvioida. Suomalainen yritys, joka ottaa uuden mallin käyttöön, nojaa silloin yhä enemmän siihen, mitä mallin tekijä itse kertoo sen turvallisuudesta. Tämä selitys taustoittaa AI Suomen päivän pääuutista.

Miksi raja on kiistanalainen

Kaikki eivät usko, että silmukka kiihtyy niin kuin Good ennusti. Nature-lehdessä vuonna 2024 julkaistussa tutkimuksessa Ilia Shumailov kollegoineen osoitti, että kielimallit rapautuvat, kun niitä koulutetaan toistuvasti mallien itse tuottamalla aineistolla. Ilmiötä kutsutaan mallin romahtamiseksi (model collapse). Kriitikot huomauttavat myös, että tekoälytutkimusta rajoittavat laskentateho, sähkö ja kokeiden kesto. Ne eivät nopeudu sillä, että koodin kirjoittaa kone.

Kiistaa riittää toiseenkin suuntaan. RSP on Anthropicin itse kirjoittama ja itse tulkitsema sitoumus, ja yhtiö on muuttanut tekoälytutkimuksen rajan määritelmää kolmesti noin puolessatoista vuodessa. Versio 3.4 löysensi samalla sääntöä, jonka mukaan sensuroimattomat riskiraportit jaetaan kaikille tavallisen turvaluokituksen työntekijöille. Nyt riittää, että ne jaetaan vähintään 200 työntekijälle.

Ulkopuoliset arvioijat pääsevät yhä lukemaan raportit, mutta uuden version mukaan kukin voi nähdä vain osan, kunhan jokainen osa käy jonkun arvioijan läpi. Jos Anthropicin oma arvio alkuvuoden 2027 kyvyistä pitää, myönteinen turvallisuusperustelu joudutaan ensimmäistä kertaa kirjoittamaan tosissaan. Silloin ratkaisevaa on, kuka muu kuin yhtiö itse pääsee lukemaan sen kokonaan.