Trumpin entinen pääneuvonantaja Steve Bannon ja Obaman entinen turvallisuusneuvonantaja Susan Rice eivät ole koskaan olleet samaa mieltä juuri mistään. Nyt he allekirjoittivat saman asiakirjan.
Maaliskuun alussa julkaistu Pro-Human AI Declaration kokoaa yli 300 organisaatiota ja satoja yksittäisiä allekirjoittajia yhteisen vaatimuksen taakse: tekoälyn kehitystä on rajoitettava, ja ihmisen on pysyttävä ohjaimissa. Julistus vaatii pakollista hätäkatkaisinta tekoälyjärjestelmiin, superälyn kehityskieltoa ja autonomisten aseiden kieltoa.
AFL-CIO:n teknologiainstituutti, näyttelijäliitto SAG-AFTRA, Congress of Christian Leaders, Center for Humane Technology ja Future of Life Institute löysivät saman pöydän äärestä. Turingin palkinnon saaja Yoshua Bengio, Nobel-ekonomisti Daron Acemoğlu, Signalin johtaja Meredith Whittaker ja liikemies Richard Branson laittoivat nimensä samaan paperiin.
Viisi pilaria ja kolme kieltoa
Julistus rakentuu viidelle pilarille. Kärjessä on vaatimus ihmisen hallinnasta: jokaiseen tehokkaaseen tekoälyjärjestelmään on rakennettava pakollinen hätäkatkaisin. Itseään kopioivat tai itsestään kehittyvät arkkitehtuurit halutaan kieltää kokonaan, samoin järjestelmät jotka vastustavat sammutusta. Valvonnan on oltava riippumatonta, ei teollisuuden itsesääntelyä.
Superälyn kehittäminen halutaan pysäyttää, kunnes tiedeyhteisö saavuttaa yksimielisyyden sen turvallisuudesta ja kansalaiset antavat sille demokraattisen hyväksyntänsä. Käytännössä tämä tarkoittaa kehityskieltoa toistaiseksi, koska kumpaakaan ehtoa ei ole lähellekään täytetty.
Tekoäly-yhtiöiden monopoleja julistus vaatii purettavaksi. Yhtiöille ei saa myöntää erityiskohtelua sääntelyssä eikä valtion tukipaketteja. Kolmas pilari vaatii lääketestauksen kaltaista ennakkotestausta tekoälyjärjestelmille ja kieltää lasten manipulointiin suunnitellut järjestelmät. Neljäs pilari estää tekoälyn oikeushenkilöllisyyden ja takaa ihmisille oikeuden poistaa tietonsa koulutusdatasta. Viides pilari tekee tekoäly-yhtiöiden johdosta rikosoikeudellisesti vastuullisia vakavista haitoista.
“Ihmisen hallinta ei ole neuvottelukysymys. Ihmiskunnan on pysyttävä ohjaimissa.”
Yhdeksän kymmenestä valitsee rajat
Julistuksen tueksi tehtiin helmikuussa kysely 1 004 todennäköiselle äänestäjälle. Tulokset puhuvat selkeää kieltä: yli 95 prosenttia vastaajista vastustaa rajoittamatonta kiihdytystä kohti superälyä. Kahdeksan kymmenestä valitsi ihmiskeskeisen linjan, kun vaihtoehtona oli nopea kehitys kevyellä sääntelyllä.
Yksittäisistä kysymyksistä 83 prosenttia vaati pakollista sammutusmekanismia tehokkaisiin järjestelmiin, 77 prosenttia halusi ihmisen pitävän ohjat käsissään ja 72 prosenttia vaati tekoäly-yhtiöille oikeudellista vastuuta haitoista. Kysely toteutettiin 19.–20. helmikuuta, ja sen virhemarginaali on ±4,7 prosenttiyksikköä.
Poliittisen jakolinjan puuttuminen on yllättävintä. Harrisin äänestäjistä 89 prosenttia ja Trumpin äänestäjistä 73 prosenttia valitsi ihmiskeskeisen linjan. Yhdenkään testatun kysymyksen kohdalla kummankaan puolueen kannattajien enemmistö ei asettunut kevyen sääntelyn puolelle. Polarisoituneessa Yhdysvalloissa tällainen yksimielisyys on poikkeuksellista.
