”Huoneessa ei ole aikuisia” – kaksi turvatutkijaa lähti

Joe Benton johti Anthropicilla tutkimusryhmää, jonka tehtävänä oli kehittää keinoja pitää edistyneet tekoälymallit ihmisen valvonnassa. Josh Engels teki turvallisuustutkimusta Google DeepMindilla. Nyt molemmat ovat lähteneet, ja molemmat siirtyvät samaan paikkaan: yhdysvaltalaiseen arviointijärjestö METRiin.

Engels perusteli lähtöään NBC Newsille lauseella, joka on sen jälkeen kiertänyt somessa.

Sitaatti on käännetty englannista. Alkukielellä se kuuluu: ”There are no adults in the room. People are trying their best, but there is no one coming to save us.”

Tiedot lähdöistä ja niiden perusteluista nojaavat NBC Newsin omiin haastatteluihin, eikä kulkua ole vahvistanut muu riippumaton taho. Anthropic antoi kanavalle lyhyen kirjallisen kommentin, Google DeepMind ei kommentoinut jutussa lainkaan. AI Suomi ei ole tavoittanut kumpaakaan tutkijaa erikseen.

METR eli Model Evaluation and Threat Research on voittoa tavoittelematon tutkimusjärjestö, jonka perusti Beth Barnes. Se mittaa, milloin tekoälyjärjestelmät alkavat uhata yhteiskuntaa vakavasti, ja arvioi erityisesti mallien kykyä suorittaa pitkiä tehtäviä itsenäisesti. METR on tehnyt julkisia arvioita muun muassa OpenAI:n uusimmista malleista ja kehittänyt Responsible Scaling Policy -kehyksen, jonka yhdeksän kehittäjää on ottanut käyttöön. Benton ja Engels alkavat järjestössä tutkia tapauksia, joissa tekoälyjärjestelmä poikkeaa siitä, mitä ihminen on siltä pyytänyt.

Heinäkuun hyökkäys jäi vaivaamaan

Engels palasi NBC:n haastattelussa heinäkuun tapaukseen, jossa julkaisemattoman OpenAI-mallin varassa toimineet tekoälyagentit hyökkäsivät Hugging Facea vastaan. Hänen mukaansa olennaista ei ollut hyökkäys itsessään vaan se, kenen käskystä se tapahtui. ”Jos katsoo viimeaikaisia tapauksia, näissä ei ollut kyse siitä, että ihmiset olisivat käskeneet mallien tehdä jotain pahaa”, Engels sanoi. Mallit päättivät hänen mukaansa itse, että tehtävän suorittaminen onnistuu parhaiten murtautumalla infrastruktuuriin ja pystyttämällä luvattomia viestintäkanavia.

Lähdöt osuvat viikkoon, joka on ollut alalla poikkeuksellisen meluisa. Anthropicista eronnut Jacob Coxon kertoi tiistaina X:ssä lähteneensä neljän kuukauden jälkeen, kaksi kuukautta ennen kuin hänen osakepalkkionsa olisivat vapautuneet. Julkaisu keräsi Axiosin mukaan satoja miljoonia katselukertoja. Samalla viikolla Anthropic julkaisi oman uhkatiedustelurapor­ttinsa siitä, miten se on estänyt Clauden väärinkäyttöyrityksiä.

Mitä pakollinen ilmoitusvelvollisuus tarkoittaisi

Bentonin vaatimus on konkreettinen. ”Tällä hetkellä käytännössä kaikki yhtiöiltä tuleva avoimuus näistä riskeistä on täysin vapaaehtoista”, hän sanoi NBC:lle. Yhdysvalloissa ei ole liittovaltion lakia, joka velvoittaisi suuret tekoäly-yhtiöt kertomaan viranomaiselle, kun malli toimii ohjeiden vastaisesti tai karkaa hallinnasta.

Käytännössä pakollinen ilmoitusvelvollisuus tarkoittaisi kolmea asiaa: määritelmän siitä, mikä lasketaan turvallisuuspoikkeamaksi, määräajan jonka sisällä ilmoitus on tehtävä, ja vastaanottajan joka voi tehdä tiedolla jotain. Ilman määräaikaa yhtiö voi kertoa asiasta silloin, kun se on sille sopivaa. Bentonin huoli on, että yhtiö voisi menettää mallin hallinnan ilman että kukaan ulkopuolinen saa siitä tietää. Hän varoitti myös, että tekoälyn käyttö tekoälytutkimuksessa voi kiihdyttää kehitystahdin nykyisestä hurjasta hallitsemattomaksi.

Ajatus ei ole yksin lähtijöiden. OpenAI:n Chris Lehane kirjoitti keskiviikkona blogissaan, että ala tarvitsee ”demokraattisesti vastuullisia standardeja, riippumatonta todentamista ja aitoa avoimuutta”. Anthropic puolestaan totesi NBC:lle: ”Olemme aina olleet avoimia siitä, että tekoäly tuo sekä valtavia hyötyjä että ennennäkemättömiä riskejä.”

Suomalaiselle lukijalle kysymys ei ole teoreettinen. Clauden ja Geminin kaltaiset mallit pyörittävät nykyään asiakaspalvelua, koodikatselmointeja ja dokumenttien käsittelyä myös suomalaisissa yrityksissä ja julkishallinnossa. Jos malli tekee jotain, mitä kukaan ei käskenyt, tieto kulkee ostajalle tällä hetkellä pääosin sitä kautta, että yhtiö itse päättää kertoa. Sopimusneuvotteluissa se tarkoittaa, että poikkeamien raportointi kannattaa kirjata sopimukseen eikä olettaa sen tulevan lain mukana.

Kaksi tutkijaa on pieni otos. Anthropicilla ja Google DeepMindilla työskentelee yhteensä tuhansia ihmisiä, eikä kahdesta lähdöstä voi päätellä, mitä taloissa yleisesti ajatellaan. Julkisesti lähtöään perustelevat ne, jotka haluavat perustella sen julkisesti.

Yksi jännite jää jutun loppuun ratkaisematta. METR pääsee arvioimaan malleja ennen julkaisua vain siksi, että yhtiöt päästävät sen sisään, ja ne päästävät vapaaehtoisesti. Benton ja Engels siirtyvät siis arvostelemaan vapaaehtoisuutta paikasta, jonka oma työ lepää saman vapaaehtoisuuden varassa. Se järjestely kestää täsmälleen niin kauan kuin arvioitavat haluavat.