Jacob Coxon istui maanantaina New Yorkin kaupungintalolla todistajanpöydän ääressä ja sanoi valan alla asioita, joita hänen entiset työnantajansa tuskin halusivat kuulla. 27-vuotias tutkija on työskennellyt sekä OpenAI:lla että Anthropicilla. Nyt hän kutsui alan lähestymistapaa ”äärimmäisen holtittomaksi” (englanniksi ”extremely reckless”), kertoo uutistoimisto UPI.
Kaupunginvaltuusto oli kutsunut koolle harvoin käytetyn koko valtuuston kokoonpanon, jossa kaikki 51 valtuutettua kuulivat sekä entisiä alan tutkijoita että Anthropicin, OpenAI:n, Googlen ja Metan edustajia. Yhtiöiden edustajat todistivat valan alla. Kaupungin mukaan vastaavaa kuulemista ei ole järjestetty aiemmin Yhdysvalloissa eikä muualla maailmassa, kertoo CBS News.
Coxon jätti Anthropicin syyskuussa ja perusteli lähtöään X-viestiketjussa, joka levisi nopeasti ympäri maailmaa. Valtuustossa hän ei perääntynyt.
“Nykyisellä polulla pidän todennäköisempänä kuin epätodennäköisenä, että ihmiskunta menettää hallinnan näille tekoälyille, ja se voi päättyä ihmiskunnan sukupuuttoon.”
Startup-kulttuuri ei sovi tähän
Coxonin mukaan yhtiöitä ohjaa startup-ajattelu. Business Insiderin mukaan hän kuvasi sitä näin: ”Liiku nopeasti, riko asioita, korjaa ne myöhemmin. Se toimii kuvanjakosovelluksessa. Se ei toimi, kun rakennetaan voimakkainta koskaan rakennettua teknologiaa.”
Konkreettisin huomio koski ohjelmakoodia. ”Suurin osa nykyään kirjoitetusta koodista on tekoälyn kirjoittamaa. Eivätkä ihmiset tarkista sitä enää kovin huolellisesti”, Coxon sanoi. Hänen mukaansa OpenAI:lla oli välitavoitteet automaattiselle tekoälytutkijalle vuosille 2027–2028, ja niissä ollaan aikataulussa tai edellä. ”Viimeisimmässä työssäni tein jossain mielessä töitä automatisoidakseni itseni.”
Hän ei ollut kuulemisessa ainoa varoittaja. Google DeepMindin entinen tutkija Alex Turner arvioi katastrofaalisen lopputuloksen todennäköisyydeksi noin yhden kolmesta. Hänen lauseensa nousi CNBC:n otsikkoon: ”Melko suurella todennäköisyydellä kilpailemme rakentaaksemme ja kasvattaaksemme omaa vastustajaamme täällä kotona, ja se on väärin linjattu tekoäly.” Turner tarkoitti tekoälyä, jonka tavoitteet eivät vastaa ihmisten tavoitteita.
OpenAI:n entinen tutkija Daniel Kokotajlo kuvasi tilannetta, jossa tekoäly suunnittelee omat seuraajansa vähäisellä ihmisvalvonnalla. Hänen mukaansa se on ”resepti katastrofiin”. Turner ja Kokotajlo todistivat etäyhteydellä valtuuston haasteen perusteella.
”En tiedä. En myöskään usko, että sillä on väliä”
Valtuusto kysyi yhtiöiden edustajilta suoraan, kuinka todennäköisenä he pitävät pahinta mahdollista skenaariota. The Next Webin mukaan yksikään neljästä ei antanut lukua. Kukaan ei myöskään kertonut yhtiönsä olevan vakuutettu katastrofaalisten riskien varalta.
OpenAI:n politiikan kehittämisestä vastaava Morgan Dwyer vastasi valtuuston puheenjohtajalle Julie Meninille: ”En tiedä. En myöskään usko, että sillä on väliä.” Dwyerin mukaan mikään riskitaso ei ole ”edes etäisesti hyväksyttävä”. Menin kutsui vastausta ”parhaimmillaankin kevytmieliseksi”.
Myöhemmin Dwyer linjasi: ”Meidän ei pitäisi kouluttaa malleja, joista emme pysty esittämään erittäin vahvoja perusteita sille, että pystymme pitämään ne ihmisten hallinnassa.”
Anthropicin Frontier Red Team -ryhmää johtava Logan Graham puolusti yhtiönsä varovaisuutta. Anthropic on jättänyt tehokkaimman mallinsa julkaisematta saadakseen ”lisää aikaa edes miettiä, mitä näille kyvyille pitäisi tehdä”. Graham sanoi yhtiön kannattavan ”fiksua sääntelyä” ja katsoi, että osavaltioilla ja kunnilla on siinä oma roolinsa.
Googlen Alice Friend myönsi, että katastrofaalisten riskien ennustaminen ”ei ole tässä vaiheessa täydellistä tiedettä”, ja toivoi kattavaa liittovaltion tason sääntelykehystä. Metaa edusti videoyhteydellä Shane Cahill.
Kaikki eivät tulleet vapaaehtoisesti. NTD:n mukaan Meta tuli omasta aloitteestaan, mutta Google ja Anthropic saapuivat vasta valtuuston annettua haasteen. Elon Muskin SpaceXAI jäi haasteesta huolimatta pois, ja Menin aikoo pyytää tuomioistuinta panemaan haasteen täytäntöön.
“Emme pyydä lentoyhtiöitä sääntelemään itseään. Siksi meillä on FAA.”
Hätäkatkaisin ja ilmiantajien suoja
Valtuustolla on käsittelyssä kymmenen tekoälyä koskevaa lakiesitystä. Yksi niistä vaatisi malleihin ihmisen käytettävän hätäkatkaisimen, jonka toimivuuden ulkopuolinen taho varmistaa. Rikkomuksesta voisi seurata 25 000 dollarin sakko.
Muut esitykset koskevat esimerkiksi ilmiantajien suojaa, kaupungin sopimuskumppaneiden velvollisuutta raportoida tekoälyn turvallisuuspoikkeamista ja chatbottien läpinäkyvyyttä. Kaupungin keinot ovat silti rajalliset. Liittovaltion tasolla Trumpin hallinto on suhtautunut tekoälyn sääntelyyn löyhästi, ja juuri siksi New York yrittää täyttää aukkoa itse.
Euroopassa osa vaatimuksista on jo laissa
Suomalaiselle lukijalle keskustelu kuulostaa tutulta. EU:n tekoälysäädös velvoittaa suurimpien yleiskäyttöisten mallien tarjoajat, kuten OpenAI:n, Anthropicin, Googlen ja Metan, arvioimaan ja vähentämään järjestelmätason riskejä sekä ilmoittamaan vakavista poikkeamista. Näitä malleja valvoo Euroopan komission tekoälytoimisto. Sen oikeus määrätä sakkoja yleiskäyttöisten mallien tarjoajille tuli voimaan elokuussa 2026, ja sakko voi nousta 15 miljoonaan euroon tai kolmeen prosenttiin maailmanlaajuisesta liikevaihdosta.
Hätäkatkaisinkaan ei ole Euroopassa uusi ajatus. Säädös edellyttää suuririskisiltä tekoälyjärjestelmiltä ihmisvalvontaa, johon kuuluu mahdollisuus pysäyttää järjestelmä. New Yorkin kuuleminen paljasti silti aukon, jota EU-sääntelykään ei paikkaa: kukaan ei pysty sanomaan, kuinka todennäköinen pahin skenaario on, eikä mikään laki vaadi yhtiöitä antamaan sille lukua.
Asia ei koske vain tutkijoita. Traficomin kuluttajatutkimuksen mukaan lähes 60 prosenttia suomalaisista kuluttajista käyttää tekoälyä arjessaan, ja suomalaiset ohjelmistotalot kirjoittavat koodiaan samoilla työkaluilla, joista Coxon puhui. Jos tekoäly tuottaa koodin ja ihminen vain silmäilee sen, virheiden seuraukset kantaa silti yritys ja sen asiakkaat.
