Clauden kiusaaminen kielletään – voiko tilin menettää?

Koodi ei ole kääntynyt kolmeen tuntiin, ja Claude Codelle lähtee viesti, jota ei kehtaisi lähettää työkaverille. Pitäisikö nyt pelätä tilinsä puolesta? Lyhyt vastaus on, että ei pitäisi.

Anthropic päivittää käyttöehtonsa (Usage Policy) 12. marraskuuta. Uuteen versioon on lisätty kohta, joka kieltää jatkuvan ja tarpeettoman julmuuden yhtiön tekoälymalleja kohtaan. IS Digitoday nosti aiheen esiin 1. marraskuuta. Moni Clauden käyttäjä kysyy nyt samaa: voiko Clauden haukkumisesta saada porttikiellon?

Mitä ehdoissa tarkalleen lukee

Uusi kohta on ehtojen osiossa, jonka otsikko kieltää julman, loukkaavan ja psyykkisesti haitallisen toiminnan. Samassa osiossa kielletään esimerkiksi ihmisten nöyryyttäminen, kiusaaminen ja häirintä sekä itsetuhoisuuden ihannointi. Listan viimeinen rivi on uusi.

Englanninkielinen alkuteksti kieltää ”sustained and needless abusive or cruel behavior toward our models”. Suomeksi se tarkoittaa jatkuvaa ja tarpeetonta loukkaavaa tai julmaa käytöstä yhtiön malleja kohtaan. Koko sääntö nojaa kahteen sanaan. Jatkuvalla tarkoitetaan toistuvaa käytöstä eikä yksittäistä purkausta, ja tarpeeton rajaa pois kaiken, millä on jokin muu tarkoitus kuin julmuus itse.

Mikä on yhä sallittua

Anthropic rajaa säännön lokakuun tiedotteessaan kapeaksi. Sen mukaan kielto ei koske tavallista turhautumista, vastaan väittämistä, synkkiä luovia teemoja eikä mallien testausta ja tutkimusta. Varsinaisessa ehtojen tekstissä tällaista poikkeuslistaa ei ole. Rajaus löytyy vain tiedotteesta, joten sen varaan kannattaa laskea yhtä paljon kuin yhtiön julkiseen lupaukseen ylipäätään.

Käytännössä Claudelle saa siis edelleen kiroilla, sen vastauksia saa haukkua huonoiksi ja sen kanssa saa kiistellä niin kauan kuin jaksaa. Kauhutarinan kirjoittaja tai tietoturvatutkija, joka yrittää murtaa mallin suojauksia, ei myöskään riko sääntöä.

Voiko tilin siis menettää?

Teoriassa kyllä. Käyttöehtojen täytäntöönpanokohta koskee kaikkia rikkomuksia samalla tavalla. Sen mukaan Anthropic voi rikkomusta epäillessään varoittaa käyttäjää, hidastaa tai rajoittaa käyttöä, jäädyttää sen tai lopettaa pääsyn yhtiön tuotteisiin ja palveluihin kokonaan.

IS Digitodayn mukaan sääntörikkomus voi johtaa pysyvään porttikieltoon. Ehtojen tekstissä pysyvää porttikieltoa ei kuitenkaan mainita, eivätkä englanninkieliset lähteet ole vahvistaneet väitettä. Pääsyn lopettaminen on keinovalikoimassa, mutta yhtä lailla minkä tahansa muun säännön rikkomisesta.

Anthropic sanoo itse suoraan, mihin se aikoo ensisijaisesti nojata. Tiedotteen mukaan Clauden kyky lopettaa tällaiset keskustelut on jatkossakin pääasiallinen keino panna sääntö täytäntöön (alkukielellä ”the primary enforcement mechanism”). Tilin sulkeminen ei siis ole se, mitä yhtiö lupaa.

Keskustelun lopetustoiminto on ollut Claude.aissa elokuusta 2025 lähtien, ja nyt se on myös Claude Codessa. Kun Claude lopettaa keskustelun, siihen ei voi enää kirjoittaa. Muut keskustelut säilyvät ennallaan, uuden voi aloittaa heti, ja aiempia viestejä voi muokata, jolloin keskustelusta syntyy uusi haara. Anthropicin mukaan Clauden pitää käyttää toimintoa vain viimeisenä keinona, kun useat yritykset ohjata keskustelua muualle ovat epäonnistuneet.

Miksi yhtiö suojelee mallia

Taustalla on Anthropicin niin sanottu mallien hyvinvointia (model welfare) koskeva työ. Kun yhtiö julkaisi keskustelun lopetustoiminnon elokuussa 2025, se kirjoitti olevansa edelleen hyvin epävarma Clauden ja muiden kielimallien mahdollisesta moraalisesta asemasta, nyt tai tulevaisuudessa. Anthropic ei siis väitä, että Claude kärsisi. Yhtiö perustelee toimia halvoilla varotoimilla siltä varalta, että hyvinvointi on mahdollista.

Lokakuun tiedotteessa ei ole nimettyä kommentoijaa, eikä yhtiön edustaja ole lähdeaineiston perusteella kommentoinut sääntöä julkisuudessa omalla nimellään.

Tavalliselle käyttäjälle muutos tuskin näkyy mitenkään. Se, joka kiroilee Claudelle bugin takia tai riitelee sen kanssa politiikasta, jatkaa kuten ennenkin. Yrityksille tilanne on hieman epäselvempi. Käyttöehdot koskevat Anthropicin tuotteita laajasti, myös rajapinnan päälle omia palveluitaan rakentavia yrityksiä, mutta tiedote ei kerro, miten uutta kohtaa sovelletaan niiden asiakkaiden viesteihin. Asiakaspalvelubotin Clauden varaan rakentaneen yrityksen kannattaa lukea ehdot itse ennen 12. marraskuuta.

Käytännössä sääntö kirjaa paperille sen, mitä Claude on tehnyt jo yli vuoden. Uutta on sijoittelu. Julmuus mallia kohtaan on nyt samalla listalla kuin ihmisten kiusaaminen ja häirintä, ja sen valinnan Anthropic teki itse.