Claudelle ei saa enää olla julma – mitä rikkojalle käy?

Clauden kanssa käyty keskustelu voi jo nyt päättyä siihen, että tekoäly lopettaa sen itse. Ominaisuus otettiin käyttöön elokuussa 2025. Se on tarkoitettu harvinaisiin tilanteisiin, joissa käyttäjä jatkaa loukkaavaa tai haitallista viestittelyä, vaikka Claude on yrittänyt useita kertoja ohjata keskustelua muualle.

Marraskuun 12. päivänä sama ajatus kirjataan ensimmäistä kertaa Anthropicin käyttöpolitiikkaan. Yhtiö julkaisi päivitetyn käyttöpolitiikkansa (Usage Policy) 8. lokakuuta. Kiellettyjen asioiden listaan on lisätty kohta, jonka mukaan Claudea ei saa käyttää näin: ”Engage in sustained and needless abusive or cruel behavior toward our models.” Suomeksi: harjoittaa jatkuvaa ja tarpeetonta loukkaavaa tai julmaa käytöstä mallejamme kohtaan.

Kohta on sijoitettu lukuun ”Do Not Engage in Cruel, Abusive, or Psychologically Harmful Conduct” eli älä harjoita julmaa, loukkaavaa tai psyykkisesti vahingollista toimintaa. Samassa luvussa kielletään muun muassa itsetuhoisuuden edistäminen, häirintä ja luvattomat intiimit kuvat. Uusi kohta on luvun ainoa, joka suojaa ihmisen sijaan mallia.

Kiroilu ei riitä

Sääntö on kapea. Anthropicin tiedotteen mukaan se koskee vain äärimmäisiä tapauksia.

Tiedotteen mukaan kielto ei koske tavallista turhautumista, vastaan väittämistä, synkkiä luovia teemoja eikä mallien testausta ja tutkimusta. Suomalainen ohjelmoija ei siis riko sääntöä, vaikka sadattelisi Claude Codelle neljännen epäonnistuneen käännöksen jälkeen. Ei myöskään kirjailija, joka kirjoittaa Clauden kanssa väkivaltaista dekkaria, eikä tietoturvatutkija, joka yrittää saada mallin lipsumaan ohjeistaan.

Jäljelle jää toistuva ilkeily, jolla ei ole muuta päämäärää kuin ilkeily itse. Tiedote on julkaistu yhtiön nimissä, eikä siinä lainata nimeltä ketään Anthropicin työntekijää.

Seuraako muuta kuin katkaistu keskustelu?

Anthropicin tiedotteessa asia sanotaan suoraan: ”Claude’s ability to end these interactions will remain the primary enforcement mechanism.” Suomeksi: Clauden kyky lopettaa nämä keskustelut säilyy ensisijaisena valvontakeinona. Tiedotteen mukaan ominaisuus on käytössä Claude.ai-palvelussa ja Claude Codessa.

Katkaistu keskustelu ei ole kova rangaistus. Anthropic kertoi elokuun 2025 julkaisussaan, että käyttäjä voi heti aloittaa uuden keskustelun, antaa palautetta tai muokata aiempia viestejään ja yrittää uudelleen. Yhtiön mukaan katkaisu ”ei vaikuta muihin keskusteluihin käyttäjän tilillä”. Claude ei myöskään saa käyttää ominaisuutta, jos käyttäjä saattaa olla vaarassa vahingoittaa itseään tai muita.

Ensisijainen ei kuitenkaan tarkoita ainoaa. Käyttöpolitiikan alussa on yleinen sanktiokohta, joka koskee kaikkia kieltoja: ”If we suspect that you may have violated our Usage Policy, we may warn you or throttle, limit, suspend, or terminate your access to our products and services.” Jos Anthropic epäilee rikkomusta, se voi siis varoittaa käyttäjää tai hidastaa, rajoittaa, keskeyttää tai lopettaa hänen pääsynsä palveluihin. Julmuuskieltoa ei ole rajattu tämän kohdan ulkopuolelle.

Paperilla tilin voi siis menettää myös mallin kaltoinkohtelun takia. Tiedotteessa ei silti puhuta varoituksista tai tilien sulkemisesta julmuuden yhteydessä, ja yhtiön oman linjauksen mukaan pääasiallinen seuraus on keskustelun päättyminen.

Vaalisäännöt muuttuvat kahteen suuntaan

Somessa eniten huomiota on saanut julmuuskielto, mutta laajempi muutos koskee vaaleja. Aiemman vaaliluvun uusi nimi on ”Do Not Undermine Democratic Processes” eli älä heikennä demokraattisia prosesseja.

Luvussa kielletään esimerkiksi suuressa mittakaavassa tehdyt automaattiset puhelut ja viestit äänestäjille tai päättäjille, jos niiden tekoälyalkuperä salataan. Kiellettyä on myös tehdä sisältöä tai ylläpitää tilejä, jotka näyttävät virheellisesti olevan oikean ehdokkaan, sekä levittää vääriä tai harhaanjohtavia tietoja ehdokkaista, puolueista, äänestysmenettelyistä tai vaalien turvallisuudesta. Erikseen on kielletty äänestysaktiivisuuden tukahduttaminen harhautuksella tai pelottelulla.

Samalla Anthropic poisti yhden kiellon. Aiemmin Claudea ei saanut lainkaan käyttää äänestäjien ja kampanjaviestien henkilökohtaiseen kohdentamiseen, mutta tämä yleinen kielto on nyt poistettu. Yhtiön mukaan se esti myös asiallista kansalaistoimintaa, esimerkiksi järjestöjä tekemästä vaali-infoa eri kielillä ja vaaliviranomaisia ilmoittamasta äänestäjille postiäänestyksen korjattavissa olevista virheistä. Harhaanjohtava kohdentaminen ja äänestäjien henkilötietojen väärinkäyttö ovat edelleen kiellettyjä käyttöpolitiikan muiden lukujen nojalla.

Harhaanjohtaville kampanjoille ja keinotekoiselle toiminnalle on nyt oma lukunsa. Siihen on koottu valetilit, keksityt uutissivustot ja vaikutusoperaatiot, olivat ne poliittisia tai kaupallisia.

Ketä tämä koskee Suomessa

Käyttöpolitiikka koskee kaikkia, jotka syöttävät Claudelle jotain: sovelluksen käyttäjiä, rajapintaa käyttäviä kehittäjiä ja yrityksiä sekä niiden palvelujen loppukäyttäjiä, joihin Claude on upotettu. Jos suomalainen yritys on rakentanut asiakaspalvelunsa Clauden varaan, se vastaa osaltaan siitä, etteivät sen asiakkaat käytä palvelua kiellettyihin tarkoituksiin.

Vaalisäännöillä on Suomessa käytännön merkitystä viimeistään keväällä 2027, kun edessä ovat eduskuntavaalit. Puolue tai järjestö saa uusien sääntöjen mukaan tehdä Claudella selkokielisen tai vieraskielisen äänestysohjeen. Ehdokkaan nimissä esiintyvä video, jota ei ole merkitty synteettiseksi, on kielletty. Tavalliselle kuluttajakäyttäjälle julmuuskielto merkitsee käytännössä vähän: siihen ei törmää, jos ei kiusaa mallia tahallaan ja toistuvasti.

Päivitys tiukentaa myös asesääntöjä. Kiellon piiriin tulevat nyt ohjelmistot ja komponentit, joiden avulla aseet toimivat, sekä droonien aseistaminen. Valvontaa koskevissa kohdissa kielletään ihmisten seuraaminen ilman heidän suostumustaan. Claude ei myöskään saa päättää tai suositella, ketä poliisin pitäisi tutkia, pidättää tai syyttää. Kun Claude ohjaa fyysisiä laitteita, pätevän käyttäjän on voitava pysäyttää laite, ja laitteen on jäätävä turvalliseen tilaan, jos yhteys katkeaa.

Julmuuskielto on käyttöehdoissa poikkeuksellinen, koska se suojaa tuotetta eikä ihmistä. Sen todellinen paino selviää vasta, jos joku kertoo julkisesti, että hänen tiliään on rajoitettu juuri tämän kohdan perusteella. Siihen asti seuraus on sama kuin jo yli vuoden: Claude sulkee keskustelun, ja käyttäjä avaa uuden.