Terence Tao, yksi maailman tunnetuimmista matemaatikoista, julkaisi 7. lokakuuta blogissaan tekstin, jota hän ei ollut itse kirjoittanut. Se oli Association for Human Mathematics -järjestön (AHM) kannanotto, jossa matemaatikkoja kehotetaan lopettamaan työ OpenAI:n kanssa.
Tao ei lisännyt omaa mielipidettään. Hän kertoi vain, että teksti on julkaistu uudelleen järjestön sivuilta ja että se on muunnettu toisesta tiedostomuodosta tekoälyn avulla. Taon blogia seuraa laaja joukko matemaatikkoja, joten kannanotto ei jäänyt pienen piirin tietoon.
Kannanotto vastaa OpenAI:n 6. lokakuuta GitHubiin tuomaan aineistoon. Kuten AI Suomi kertoi, yhtiö väittää julkaisemattoman mallinsa ratkaisseen tai edistäneen satoja avoimia ongelmia, ja repositoriossa on 722 käsikirjoitusta.
Järjestö: matemaatikot eivät pyytäneet tätä
AHM:n viestintätyöryhmän allekirjoittama teksti on lyhyt ja jyrkkä. Sen mukaan matemaatikot eivät pyytäneet tätä työtä tehtäväksi. Järjestö muistuttaa, että OpenAI sivuutti matematiikan ja tekoälyn neuvonantajaryhmän linjauksen, jonka mukaan kärkilaboratorioiden ei pitäisi testata vaativia matemaattisia ongelmia sisäisillä malleillaan.
Teksti nostaa esiin myös OpenAI:hin kohdistuvat oikeusjutut, joissa yhtiötä syytetään plagioinnista, tekijänoikeusloukkauksista ja tavaramerkin heikentämisestä. Järjestön mukaan julkaisu ohittaa normit, jotka takaavat, että matematiikka pysyy luotettavana, eettisesti tutkittuna ja yleisen edun mukaisena.
“Yli 700 tiedoston julkaiseminen kerralla ei ole osoitus oppineisuudesta vaan osoitus vallasta. Kehotamme matemaatikkoja lopettamaan työnsä OpenAI:n kanssa.”
Miksi matemaatikot suuttuivat
Kiukun ymmärtää, kun katsoo, miten matematiikassa tavallisesti saa tunnustusta. Todistus kirjoitetaan, lähetetään lehteen ja annetaan vertaisarvioijille, jotka käyvät sen läpi rivi riviltä. Pitkä todistus voi olla tarkastettavana kuukausia, joskus vuosia. Vasta sen jälkeen tulos on yhteisön silmissä totta, ja tekijä saa siitä ansion.
OpenAI ohitti koko ketjun. Satojen käsikirjoitusten kasa siirtää tarkastustyön ihmisille, jotka eivät sitä pyytäneet ja jotka tekevät sen yleensä palkatta. Useampi Taon blogin kommentoija kysyi juuri tätä: kuka käy läpi yli 700 paperia, joiden takana on malli, jota kukaan ulkopuolinen ei pääse kokeilemaan?
Kyse on myös vallasta. Jos yksi yhtiö voi julkaista kerralla enemmän tuloksia kuin moni tutkimusryhmä vuosikymmenessä, se päättää käytännössä, mitä ala tutkii seuraavaksi ja mitkä ongelmat nimetään ratkaistuiksi. Yhtiöllä ei ole velvollisuutta paljastaa malliaan, kehotteitaan tai laskentamääriään.
Kaikki eivät ole järjestön kanssa samaa mieltä. Osa Taon blogin kommentoijista piti kannanottoa vakuuttamattomana ja vaati, että tuloksia arvioidaan niiden oman sisällön perusteella. Yksi nimetön kommentoija kirjoitti, että hänen oli ”todella vaikea ottaa lausuntoa vakavasti”. Osa näki linjan olevan ristiriidassa avoimen tieteen periaatteiden kanssa.
Myös neuvonantajaryhmä AGMAI, johon AHM vetoaa, on pysynyt varovaisena. Scott Aaronsonin blogissaan kokonaan lainaama ryhmän lausunto ei puolla eikä tuomitse OpenAI:n julkaisua. Ryhmän mukaan sen neuvoa-antavaa roolia ”ei pidä tulkita arvioksi näiden tulosten merkityksestä”.
AHM:n kotisivuilta ei selviä, kuka järjestön on perustanut, milloin tai kuinka monta jäsentä sillä on. Siksi on vaikea arvioida, kuinka suurta joukkoa matemaatikkoja kannanotto edustaa.
Aaronson: seuraavaksi salaus
Tietojenkäsittelyteoreetikko Scott Aaronson Texasin yliopistosta Austinista suhtautuu julkaisuun aivan toisin. Hän kirjoitti 7. lokakuuta blogissaan, että edellinen päivä oli ”varmasti yksi matematiikan historian suurimmista päivistä”.
Samaan kirjoitukseen hän lisäsi päivityksen, joka vie keskustelun uuteen suuntaan. Aaronsonin mukaan kryptografia loistaa poissaolollaan OpenAI:n paperilistalta. Hänen lähteidensä mukaan tekoäly-yhtiöt ovat alkaneet ”varovasti ja hienovaraisesti” selvittää, pystyvätkö niiden uusimmat sisäiset mallit murtamaan tärkeitä salausprotokollia ja -primitiivejä.
