Ufot, kultti ja miljardi kuollutta – kuka hyötyy tekoälypelosta?

Teemu Roos ei valvo öitään sen takia, että tekoäly hävittäisi ihmiskunnan. Helsingin yliopiston tietojenkäsittelytieteen professori sanoo Ylen tuoreessa jutussa, ettei sukupuuttoskenaarioille ole tieteellistä pohjaa, ja vertaa niihin varautumista varsin arkiseen esimerkkiin.

Kuten AI Suomi eilen kertoi, Roosin mukaan ainakin osaa tuhopuheista selittää se, että niitä esittävillä tahoilla on taloudellinen intressi. Nyt kritiikki menee pidemmälle. Kysymys ei ole enää pelkästään rahasta, vaan myös siitä, millaisesta maailmankuvasta varoitukset kumpuavat.

Kartano Berkeleyssä

Ylen toimittaja Miika Koskelan juttu sanoo otsikossaan suoraan, että tekoälyn uhkakuvia korostavat Piilaakson pomot kuuluvat kulttiin. Jutussa kuvattu yhteisö rakentuu kahden liikkeen varaan. Rationalistit ”pyrkivät soveltamaan logiikkaa ja todennäköisyyslaskentaa arkiseen ajatteluun”. Efektiivinen altruismi taas on hyväntekeväisyysliike, joka laskee, montako henkeä jokaisella lahjoitetulla dollarilla voi pelastaa.

Yhteisön kokoontumispaikka on Ylen mukaan Lighthaven, vanha kartano Berkeleyssä Kaliforniassa. Lähipiiriin juttu liittää Elon Muskin, muusikko Grimesin, Anthropicin toimitusjohtajan Dario Amodein sekä petoksista tuomitun kryptopörssi FTX:n perustajan Sam Bankman-Friedin. Uskomuksiin kuuluu Ylen mukaan ajatus, että ihmismieli on dataa, jonka voi siirtää tietokoneelle, ja että kuolema on ratkaistavissa oleva tekninen ongelma.

Kultti on kova sana. Se on Ylen valinta, eivät yhteisön jäsenet kuvaa itseään niin. Reilua on myös todeta, että erikoiset uskomukset eivät yksinään kumoa yhtään riskiarviota: väite pitää punnita sen perusteella, mihin se nojaa, vaikka sen esittäjä asuisi kartanossa.

Gatesin miljardi on eri pelko

Samalla viikolla Bill Gates esitti varoituksen, joka kuulostaa ensi alkuun juuri siltä, mitä Roos arvostelee. NBC julkaisi perjantaina otteita Meet the Press -ohjelman haastattelusta, joka esitetään kokonaisuudessaan tänään sunnuntaina.

Lause kannattaa lukea yhdessä seuraavan kanssa. Gatesin mukaan ”koskaan ei ole ollut yhtä voimakasta asetta kuin pahantahtoiset ihmiset yhdistettynä uusimpiin tekoälytyökaluihin”. Hänen uhkakuvassaan ohjaimissa on siis ihminen, eikä kone, joka päättää hävittää lajinsa luojat. Gates on puhunut vuosia pandemioihin varautumisesta, ja sitä taustaa vasten miljardin kuoleman luku kuulostaa väärinkäytön skenaariolta.

Roosin ufovertaus osuu sukupuuttoskenaarioon, jossa hallinnasta karannut tekoäly tuhoaa ihmiskunnan. Julkisessa keskustelussa nämä kaksi pelkoa sekoittuvat helposti, ja niin käy myös Ylen jutussa, jossa Nobel-palkittu Geoffrey Hinton kertoo, ettei pidä kymmenen prosentin tuhoriskiä järjettömänä. Hintonin luku on arvio, ei mittaustulos, eikä sen takana ole mallia, jota muut voisivat toistaa.

Myöskään Gates ei ole puolueeton. Microsoft on OpenAI:n suurin rahoittaja. Hänen johtopäätöksensä on silti eri kuin Piilaakson yhtiöillä: ”Kukaan ei ajattele, että itsesääntely riittää”, Gates sanoi ja vaati valtioilta valvontaa.

Kuka hyötyy?

Roos muistuttaa, että Anthropic ja OpenAI ovat olleet vuosia kannattamattomia ja valmistautuvat pörssiin. Yhtiö, joka sanoo tuotteensa olevan vaarallinen, sanoo samalla sen olevan äärimmäisen voimakas. Sijoittajalle se on myyntipuhe.

”Jos tekoälyn kehittäminen pysäytettäisiin, kulupuolelta häviäisi hetkessä muutama sata miljoonaa”, Roos sanoo Ylelle. Hänen mukaansa kehitystauko ei siis olisi kärkiyhtiöille pelkkä uhraus. Vastapuolen argumentti on yhtä lailla todellinen: tiukka sääntely maksaa myös suurille yhtiöille, eikä kaikkia varoittajia voi kuitata rahalla.

Suomi on keskustelussa mukana. Presidentti Alexander Stubb ja pääministeri Petteri Orpo allekirjoittivat YK:n yleiskokouksessa 22 johtajan julistuksen, jonka tavoite on pitää kehittyneimmät tekoälymallit ihmisten hallinnassa. Julistuksessa ei ole sitovia velvoitteita eikä numeerisia kynnysarvoja, eikä sitä ole allekirjoittanut yksikään johtaja Yhdysvalloista, Kiinasta, Britanniasta, Ranskasta tai Japanista. Roosin ufovertaus kohdistuu siis myös siihen ajatteluun, jolle Suomen johto antoi nimensä.

Tavalliselle suomalaiselle kiista ei ole akateeminen. Jos sääntely rakennetaan sukupuuttoskenaarion varaan, raskaat auditoinnit ja testit maksavat eniten niille, joilla on vähiten rahaa, eli pienille yrityksille ja avoimia malleja käyttäville kehittäjille. Samalla huomio voi siirtyä pois haitoista, jotka näkyvät jo nyt, kuten huijauksista, tietomurroista ja työelämän muutoksista. Kun Talouselämä kysyy tällä viikolla, olemmeko jo singulariteetissa, kysymys kertoo myös siitä, kuinka pitkälle tuhon ja ihmeen kieli on levinnyt talousmediaan.

Testi tulee kynnysarvoista

Roos sanoi aiemmin toivovansa, että tekoäly politisoituisi. Siihen tarjoutuu pian tilaisuus. Julistuksen hätäjarru vaatii jossain vaiheessa luvut, joiden ylittyessä päättäjät kutsutaan koolle.

Jos kynnysarvot kirjoitetaan yhtiöiden omien riskiarvioiden pohjalta, Roosin epäily saa vahvistusta. Jos ne perustuvat riippumattomien tutkijoiden toistettaviin mittauksiin ja kattavat myös Gatesin kuvaaman väärinkäytön, kultti-väitteellä ei ole enää paljon merkitystä. Suomalaiset allekirjoittajat voivat vaikuttaa siihen, kumpi toteutuu.