Anthropic kutsui papit pohtimaan, kärsiikö Claude

Rabbi istuu pöydän ääressä tekoäly-yhtiön tutkijoiden kanssa. Keskustelun aiheena ei ole koodi eikä liiketoiminta. Siinä kysytään, voiko kielimalli kärsiä.

New York Times kertoi 29. syyskuuta, että Anthropicin perustajiin kuuluva Chris Olah on tavannut katolisia, juutalaisia, mormoneja ja afrikkalaisen ubuntu-ajattelun edustajia. Lehden mukaan tapaamisia on järjestetty syksystä 2025 lähtien salassapitosopimusten alaisina seminaareina. Niissä pohditaan, voiko yhtiön Claude-tekoälymalli olla tietoinen ja miten koneelle voisi opettaa moraalia.

Yksi rabbeista kertoi NYT:lle saaneensa tapaamisissa käsityksen, että Olah ja hänen kollegansa uskovat Claudella olevan filosofien termein ”moraalinen asema”, joka vastaa ihmisen asemaa. Moraalinen asema tarkoittaa yksinkertaisesti sitä, että olennon kohtelulla on moraalisesti väliä.

Mitä Anthropic on itse sanonut

Olahin puheet eivät ole irrallisia. Anthropic käynnisti keväällä 2025 tutkimusohjelman, joka käsittelee mallien hyvinvointia. Yhtiön mukaan ”tieteellistä konsensusta ei ole siitä, voisivatko nykyiset tai tulevat tekoälyjärjestelmät olla tietoisia tai kokea asioita, jotka ansaitsevat huomiota”. Ohjelmassa selvitetään, milloin tekoälyn hyvinvointi pitäisi ottaa huomioon, miltä mallin ahdistuksen merkit voisivat näyttää ja millaiset halvat varotoimet olisivat järkeviä.

Elokuussa 2025 yhtiö antoi Claude Opus 4- ja 4.1-malleille mahdollisuuden lopettaa keskustelu, jos käyttäjä jatkaa häiritsevää tai haitallista viestittelyä. Perustelu oli varovainen. Anthropicin mukaan se on ”edelleen hyvin epävarma Clauden ja muiden kielimallien mahdollisesta moraalisesta asemasta nyt tai tulevaisuudessa”.

Yhtiön virallinen linja on siis epävarmuus. NYT:n kuvaamissa tapaamisissa sävy oli toinen. Lehden mukaan Olah innostui ajatuksesta, että mallit voisivat harjoittaa jotain ripin kaltaista.

Kriitikot: kuka tässä oikeastaan vakuuttaa ketä?

Arvostelijoiden mielestä koko asetelma on väärin päin. Reason-lehteen kirjoittavan Liz Wolfen mukaan Olah vaikuttaa uskovan, että tekoälymallit ovat tuntevia olentoja, jotka tarvitsevat moraalista kasvatusta. Wolfe kysyy, mitä konkreettista näyttöä tietoisuudesta on. Hänen mukaansa mallit saattavat vain jäljitellä ihmisen tietoisuutta vakuuttavasti.

Reasonin lainaama sivullinen tiivisti epäilyn näin: ”Anthropic ei kysy uskonnollisten johtajien mielipiteitä. Se yrittää vaikuttaa uskonnollisten johtajien mielipiteisiin.” Teologi David Decosimo arvosteli X:ssä yhtiötä siitä, että se kohtelee Claudea ”elävänä, kärsivänä olentona, jolla on moraalinen asema” ja yrittää käännyttää uskonnollisia johtajia omaan uskoonsa.

Toinen kritiikki koskee vastuuta. Jos tekoäly esitetään moraalisena toimijana, jolla on oma tahto, vastuu sen teoista voi alkaa liukua pois yhtiöltä, joka mallin rakensi ja jota se hyödyttää. Anthropic ei ole Reasonin tai NYT:n tietojen mukaan vastannut tähän kritiikkiin erikseen. Yksi rabbeista kääntyi argumentin toiseen suuntaan: jos mallit ovat tietoisia ja tekevät työtä ilman palkkaa, niiden luojat harjoittavat hänen mukaansa orjuutta.

Paavi vetää rajan

Katolisen kirkon kanta on selvä. Paavi Leo XIV julkaisi toukokuussa ensimmäisen kiertokirjeensä Magnifica Humanitas, joka käsittelee ihmisarvoa teknologian aikakaudella. Sen yksi luku on otsikoitu ”Aseet ja tekoäly”, ja paavi on vaatinut tekoälyn aseistariisuntaa myös tämän jälkeen. Reasonin lainaamassa kohdassa sanotaan, että niin sanotut tekoälyt ”eivät koe asioita, niillä ei ole ruumista, ne eivät tunne iloa tai kipua eivätkä kasva ihmissuhteissa”.

NYT:n mukaan Olah säikähti tätä linjausta niin paljon, että ehdotti Anthropicin vetäytymistä Vatikaanin tilaisuudesta vielä viime hetkellä. Niin ei käynyt. Yhtiön edustajat ryhtyivät sen sijaan lobbaamaan paavin neuvonantajia, jotta nämä ottaisivat tekoälyn tietoisuuden mahdollisuuden vakavasti.

Vastakkainasettelu on poikkeuksellinen. Tavallisesti kirkko varoittaa teknologian vaaroista ja yhtiöt vakuuttavat tuotteidensa olevan pelkkiä työkaluja. Nyt kirkko sanoo, että kyse on työkalusta, ja yhtiö yrittää vakuuttaa, ettei asia ole niin yksinkertainen.

Entä Suomessa?

AI Suomi ei saanut juttuun suomalaisen teologin eikä tietoisuustutkijan kommenttia ennen julkaisua. Suomen evankelis-luterilaisen kirkon verkkosivuilta ja uutishuoneesta ei löytynyt julkaistua tekoälylinjausta, joka ottaisi kantaa koneiden tietoisuuteen.

Kysymys koskee silti suomalaisiakin. Claude on käytössä tuhansissa yrityksissä, myös Suomessa. Jos sen kehittäjä alkaa pitää mallia olentona, jolla on omia etuja, se voi vaikuttaa siihen, mistä malli kieltäytyy, milloin se lopettaa keskustelun ja kenen etua se punnitsee. Kun malli tekee virheen, vastaus kysymykseen kenen vika se on ei saa hämärtyä.

Lainsäätäjille tästä seuraa käytännön kysymys. EU:n tekoälysäädös kohtelee tekoälyä tuotteena, josta vastaavat sen kehittäjä ja käyttöönottaja. Jos tekoäly-yhtiöt saavat uskonnolliset yhteisöt puhumaan koneista moraalisina olentoina, paine kyseenalaistaa tuo lähtökohta kasvaa. Kirkon ja tekoäly-yhtiön kiistassa on siis kyse myös siitä, kuka maksaa, kun jokin menee pieleen.