Dario Amodei ei puhunut YK:n turvallisuusneuvostossa kuin myyntimies. Anthropicin toimitusjohtaja sanoi New Yorkissa tiistaina 23. syyskuuta, että huonosti hoidettuna tekoäly voi uhata koko ihmiskuntaa. Hän pyysi maailmanlaajuista valvontaa alalle, jota rakentaa itse.
Samassa kokouksessa puhui OpenAI:n Sam Altman, joka vaati samaa. Myöhemmin Yhdysvaltain hallitusta edustanut Michael Kratsios ilmoitti, ettei siitä tule mitään.
Tällaista asetelmaa ei näe usein. Yleensä yhtiöt vastustavat sääntelyä ja valtiot ajavat sitä. Nyt kahden maailman arvokkaimpiin kuuluvan tekoäly-yhtiön johtajat pyysivät kansainvälisiä sääntöjä, ja niiden kotimaa torjui ajatuksen julkisesti maailman tärkeimmän turvallisuuselimen edessä.
“Jos sitä hallitaan huonosti, uskon jopa, että tekoäly voi olla riski koko ihmiskunnalle.”
Ranska kutsui koolle, johtajat varoittivat
Kokouksen kutsui koolle Ranska, ja se pidettiin YK:n yleiskokousviikolla. Al Jazeeran mukaan sekä Ranskan että Britannian ulkoministerit tukivat kansainvälisiä pelisääntöjä tekoälylle.
Altman varoitti, että ihmiskunta voi menettää tekoälyn tulevaisuuden hallinnan. Hän puhui demokratiasta: "Jos tekoälyn halutaan olevan demokraattista, tärkeimpiä päätöksiä eivät voi tehdä pelkästään San Franciscon laboratoriot. Niitä on muovattava demokraattisissa prosesseissa ja niiden hallitusten toimesta, jotka ovat tilivelvollisia palvelemilleen ihmisille." Sitaatti on käännetty englannista.
Jyrkimmin puhui kanadalainen tekoälytutkija Yoshua Bengio. Hän on toinen puheenjohtaja riippumattomassa kansainvälisessä tieteellisessä tekoälypaneelissa, jonka YK perusti viime vuonna. "Vaarat ovat todellisia ja välittömiä. Tämä neuvosto kohtaa ennennäkemättömän uhan, jota yksikään sen jäsenistä ei valitsisi, jota kukaan ei pysty yksin hillitsemään ja joka ei kunnioita rajoja, joita puolustamme", Bengio sanoi englanniksi.
Hugging Facen toimitusjohtaja Clément Delangue toi mukaan esimerkin käytännöstä. Yhtiöön hyökättiin hallitsemattomilla tekoälymalleilla, ja se puolustautui kiinalaisilla työkaluilla, joissa oli vähemmän rajoituksia kuin amerikkalaisissa vastineissa. "Meitä vastaan hyökättiin tekoälyllä, mutta mikä tärkeämpää, puolustauduimme tekoälyllä", Delangue sanoi.
“Torjumme täysin kaikki kansainvälisten elinten pyrkimykset ottaa tekoäly keskitetyn valvontansa ja globaalin hallintansa alle.”
Linja ei yllättänyt. Trumpin hallinto kumosi edeltäjänsä tekoälyasetuksen heti tammikuussa 2025 ja on sen jälkeen korostanut, että kasvu ja kilpailu Kiinan kanssa ovat etusijalla. Kiina oli mukana kokouksen taustalla muutenkin. Presidentti Xi Jinpingin odotetaan keskustelevan tekoälystä Washingtonin-vierailullaan, mutta Al Jazeeran haastattelemien asiantuntijoiden mukaan maiden teknologiakilpailu tekee keskinäisistä rajoituksista epätodennäköisiä.
International Crisis Groupin Daniel Forti arvioi Al Jazeeralle, että tekoälyn vaarat tunnustetaan kansainvälisesti yhä laajemmin, mutta suurimmat toimijat asettavat kasvun yhteistyön edelle.
Miksi yhtiöt pyytävät sääntelyä?
Kysymys kannattaa esittää suoraan. Altman pyysi jo toukokuussa 2023 Yhdysvaltain senaatilta lupajärjestelmää tehokkaimmille malleille. Sen jälkeen OpenAI on kasvanut moninkertaiseksi, eikä liittovaltion sääntöjä ole tullut.
Sääntelyn pyytäminen voi hyödyttää yhtiöitä monella tavalla. Jos säännöt kirjoitetaan yhdessä alan johtajien kanssa, niistä tulee helposti johtajien mittaiset. Raskas testaus- ja raportointivelvoite on pieni kuluerä miljardiyhtiölle mutta korkea kynnys pienelle kilpailijalle. Maailmanlaajuinen sopimus myös jakaisi vastuun, jos jotain menee pieleen.
Varoitukset eivät silti ole pelkkää teatteria. Amodei ja Bengio ovat puhuneet riskeistä vuosia, myös silloin kun se ei ollut muodikasta. Ratkaiseva kysymys on, kenen ehdoilla valvontaa tehtäisiin. Al Jazeeran raportista ei käy ilmi, millainen elin valvoisi, kuka sitä johtaisi tai voisiko se estää mallin julkaisun.
Kongressissa kuultiin samalla viikolla aivan toisenlainen ääni. Senaattori Bernie Sanders ja edustaja Greg Casar esittelivät 23. syyskuuta lakiesityksen, joka kieltäisi superälyn kehittämisen kokonaan, keskeyttäisi edistyneen tekoälyn kehityksen liittovaltion turvallisuussääntöjen valmistumiseen asti ja perustaisi ministeriötason tekoälyviraston. "Kun ihmiskunnan tulevaisuus on vaakalaudalla, emme voi antaa kourallisen suuryhtiöiden toimitusjohtajia kirjoittaa omia sääntöjään", Sanders sanoi tiedotteessa. Esityksen lähtökohta on siis, että säännöt kirjoitetaan yhtiöiden ohi. Republikaanienemmistöisessä kongressissa sen menestymismahdollisuudet ovat heikot.
Suomessa säännöt ovat jo voimassa
Suomalaiselle kiista on osittain jo ratkaistu. EU:n tekoälysäädös on sitova laki, jota sovelletaan Suomessa vaiheittain. Sen lähtökohta on sama, jota Altman YK:ssa vaati: tärkeimmistä rajoista päättävät parlamentti ja hallitukset eivätkä laboratoriot.
Käytännössä ero näkyy tavallisessa työpäivässä. Kun helsinkiläinen ohjelmistoyritys rakentaa asiakaspalvelubotin OpenAI:n tai Anthropicin mallin varaan, mallin tarjoajan on EU:ssa pitänyt elokuusta 2025 lähtien toimittaa sille tietoja mallin kyvyistä ja rajoituksista. Yhdysvalloissa vastaavaa liittovaltion velvoitetta ei ole. Sama malli toimii siis Atlantin eri puolilla eri säännöin.
YK:n välineet ovat paljon kevyempiä. Viime vuonna perustetut tieteellinen paneeli ja globaali tekoälydialogi ovat keskustelufoorumeita, eikä yleiskokouksen vuoden 2024 tekoälypäätöslauselma sido ketään. Kratsiosin torjunta koski siis hanketta, jolla ei vielä ole hampaita.
EU:n tekoälysäädös lyhyesti
Kielletyt käyttötavat, kuten sosiaalinen pisteytys, ovat olleet kiellettyjä helmikuusta 2025. Yleiskäyttöisten mallien tarjoajien velvoitteet alkoivat elokuussa 2025, ja ennen sitä markkinoille tulleilla malleilla on siirtymäaikaa elokuuhun 2027. Valtaosa muista säännöistä, kuten synteettisen sisällön läpinäkyvyysvaatimukset, tuli voimaan elokuussa 2026. Suuririskisten järjestelmien määräajat ovat joulukuussa 2027 ja elokuussa 2028. Kiellettyjen käytäntöjen rikkomisesta voi seurata enintään 35 miljoonan euron tai 7 prosentin liikevaihtoon sidottu sakko.
Sanasto
Superäly
Kuviteltu tulevaisuuden tekoäly, joka ylittäisi ihmisen älykkyyden lähes kaikilla osa-alueilla. Sellaista ei vielä ole olemassa, mutta osa tutkijoista pitää sen kehittämistä mahdollisena ja riskialttiina.
Sosiaalinen pisteytys
Järjestelmä, jossa ihmisiä arvioidaan ja luokitellaan heidän käytöksensä tai henkilökohtaisten ominaisuuksiensa perusteella, ja pisteet vaikuttavat esimerkiksi palveluiden saantiin. EU:n tekoälysäädös kieltää sen.
AI Suomi ei pyytänyt osapuolilta erillisiä kommentteja. Jutun kannat perustuvat Al Jazeeran raportoimiin kokouspuheenvuoroihin ja Sandersin toimiston tiedotteeseen.
Kokouksen jälkeen asetelma on nurinkurinen. Eurooppa sääntelee tekoälyä, jota se kehittää verraten vähän. Yhdysvallat taas kieltäytyy sääntelemästä tekoälyä, jonka sen omat yhtiöt sanovat voivan uhata ihmiskuntaa. Seuraavaksi nähdään, viekö Amodei saman viestin yhtä painokkaasti Washingtoniin, jossa sitovat päätökset oikeasti tehtäisiin.
Viikoittainen uutiskirje
Tule firmasi fiksuimmaksi AI-osaajaksi
Yksi uutiskirje kerrallaan. Kokoamme viikon tärkeimmät tekoälyuutiset suomeksi ja kerromme, mitä ne tarkoittavat sinun työsi kannalta. Luet sen kahvitauolla.
