Tekoälyn kummisetä haluaa ohjelmoida superälylle äidin vaistot

Geoffrey Hinton, 78, tunnetaan maailmalla tekoälyn kummisetänä. Toronton yliopiston emeritusprofessori loi pohjan syväoppimiselle ja neuroverkkojen vallankumoukselle, joka mahdollisti nykyiset suuret kielimallit. Vuonna 2024 hän sai fysiikan Nobel-palkinnon koneoppimisen perustutkimuksesta.

Nyt Hinton käyttää Nobel-laureaatin painoarvoaan varoittaakseen juuri sen teknologian riskeistä, jonka hän auttoi luomaan. Fortune-lehden haastattelussa hän kohdistaa kritiikkinsä suoraan teknologiajätteihin ja esittää omaperäisen ratkaisun, joka on jakanut tutkijayhteisön kahtia.

Voitot ensin, ihmiskunta sitten

Hintonin kritiikki on suoraviivainen. Hänen mukaansa tekoälytutkimus ei lähde liikkeelle kysymyksestä "millainen on ihmiskunnan tulevaisuus", vaan konkreettisista teknisistä ongelmista kuten kuvantunnistuksesta. Tutkijoiden motivaatiot ovat ymmärrettäviä, mutta yhtiöiden omistajien näkökulmasta kehitystä ohjaa raha.

Hinton on nimennyt erikseen Metan Mark Zuckerbergin, joka investoi miljardeja superälyn kehitykseen. Laajemmin hän syyttää koko toimialaa siitä, että se lobbaa tekoälysääntelyn keventämistä samalla kun turvallisuustutkimukseen ei panosteta.

Konkreettisimmillaan Hintonin varoitus kiteytyy yhteen lukuun: hän arvioi 10–20 prosentin todennäköisyydellä superälyn voivan tuhota ihmiskunnan seuraavien kolmen vuosikymmenen aikana. Luku kuulostaa pieneltä, mutta ajatellaan hetki toisin. Jos lentokoneeseen noustessa kerrottaisiin 15 prosentin mahdollisuudesta törmäykseen, kukaan ei astuisi kyytiin.

Hinton erottaa toisistaan kaksi uhkaa. Ensimmäinen on jo todellinen: pahantahtoiset toimijat käyttävät tekoälyä syväväärennöksiin ja kyberhyökkäyksiin. Toinen on eksistentiaalinen: tekoäly itsessään kehittyy hallitsemattomaksi, kun se saavuttaa ihmistä suuremman älykkyyden.

Äidin vaistot pelastuskeinona

Hintonin ehdotus on yhtä omaperäinen kuin kiistanalainen. Hän haluaa, että superälykkäisiin tekoälyjärjestelmiin ohjelmoidaan äiti-instinkti – vaisto, joka saa ne suojelemaan ihmisiä sen sijaan, että ne tavoittelisivat valtaa.

Ajatus lähtee yksinkertaisesta havainnosta. Hinton kysyy: missä tilanteessa vähemmän älykäs olento hallitsee älykkäämpää? Ainoa tunnettu esimerkki on äidin ja vauvan suhde. Vauva "ohjaa" äitiään, koska äidillä on biologinen vaisto suojella lastaan. Samalla logiikalla superälykkäät äiti-tekoälyt suojelisivat ihmisiä, vaikka ne olisivat ihmiskuntaa valtavasti älykkäämpiä.

Hintonin mukaan superäly kehittää väistämättä kaksi alatavoitetta: pysyä toiminnassa ja hankkia lisää valtaa. Äiti-instinkti toimisi vastavoimana näille taipumuksille. Kuten Hinton itse muotoilee: "Nämä superälykkäät hoivaavat tekoälyjärjestelmät eivät haluaisi poistaa äiti-instinktiään, koska ne eivät halua meidän kuolevan."

Teknisesti kyse olisi arvojen ja tavoitteiden juurruttamisesta syvälle järjestelmän arkkitehtuuriin. Pelkkä ohjeistus, jonka tekoäly voisi kiertää, ei riitä. Hinton puhuu rakenteellisesta ratkaisusta, jossa hoivaamisen vaisto on yhtä perustavanlaatuinen osa järjestelmää kuin sen kyky oppia.

Tutkijayhteisö jakautunut

Ehdotus on jakanut tekoälytutkijat. Metan päätutkija Yann LeCun, toinen syväoppimisen pioneereista, suhtautuu ajatukseen varovaisen myönteisesti. Hän näkee Hintonin ehdotuksen yksinkertaistettuna versiona omasta "tavoiteohjatun tekoälyn" mallista, jossa järjestelmän arkkitehtuuri rajoittaa toimintaa ennalta asetettuihin kehyksiin. LeCunin mukaan empatia ja ihmisille alistuminen ovat välttämättömiä suojakaitteita tulevaisuuden tekoälyjärjestelmille.

Stanfordin tekoälytutkija Fei-Fei Li sen sijaan torjuu ajatuksen. Li pitää ihmisten rinnastamista vauvoihin ongelmallisena, koska se riistää ihmisiltä toimijuuden ja arvokkuuden. Hänen mukaansa tekoäly on sivilisaatioteknologia, jossa ihmisen pitää pysyä keskiössä aktiivisena toimijana eikä suojeltavana kohteena.

Kritiikistä huolimatta Hintonin argumentin ydin on vaikea sivuuttaa. Kukaan ei ole esittänyt vakuuttavaa mallia siitä, miten ihmiskunta voisi hallita itseään merkittävästi älykkäämpää järjestelmää perinteisin keinoin. Äiti-instinkti on vähintään yritys vastata kysymykseen, jota muu ala ei ole uskaltanut edes muotoilla.

Nobelin painoarvo

Hintonin varoitukset eivät ole uusia. Hän on puhunut tekoälyn riskeistä siitä lähtien, kun jätti Googlen toukokuussa 2023 kymmenen vuoden työrupeaman jälkeen. Hän perusteli eroaan sillä, ettei voinut puhua vapaasti tekoälyn vaaroista yhtiön palkkalistoilla.

Vuoden 2024 Nobel-palkinto muutti hänen asemaansa. Kun fysiikan nobelin saa tutkija, joka varoittaa oman elämäntyönsä seurauksista, viesti saa eri painoarvon kuin tavallisen aktivistin huoli. Hintonilla on nyt sekä tieteellinen uskottavuus että institutionaalinen riippumattomuus, ja hän käyttää molempia.

Äiti-instinkti on parhaimmillaan kiehtova ajatuskoe, joka pakottaa miettimään tekoälyn hallinnan perusoletuksia uudelleen. Hinton myöntää itsekin, ettei kukaan todella tiedä miten superälykkään järjestelmän arvoja voitaisiin lukita pysyvästi. Mutta alan merkittävin tutkija pitää riskiä todellisena, ja yhtiöt jotka kehittävät superälyä keskittyvät seuraavan kvartaalin tulokseen. Se yhdistelmä ansaitsee huomion.