Nainen avautui tekoälylle – sitten tuli poliisi

Floridan Bonita Springsissä asuva 30-vuotias nainen kirjoitti syyskuun lopussa Anthropicin Claude-tekoälylle asioita, joita hän myöhemmin kuvaili poliiseille päiväkirjamerkinnöiksi. Pidätysraportin mukaan käyttäjä kirjoitti 26. syyskuuta aikovansa ampua Leen piirikunnan seriffin toimistossa (engl. ”shoot up”). Seuraavana päivänä samalta käyttäjältä tuli viesti, jossa mainittiin uusi ase.

Anthropicin automaattinen valvonta nosti viestit esiin, ja yhtiön ihmistarkastajat ilmoittivat niistä poliisille. Nainen pidätettiin kotoaan 30. syyskuuta ilman välikohtauksia. Häntä syytetään Floridan lain pykälän 836.10 mukaisesta kirjallisesta uhkauksesta, joka on osavaltiossa törkeä rikos. Hänelle on määrätty julkinen puolustaja, ja asian käsittely alkaa marraskuussa. Syyllisyydestä ei ole ratkaisua.

Anthropic ei ole kommentoinut tapausta julkisuudessa. Gizmodon mukaan yhtiö ei vastannut sen kommenttipyyntöön.

Tapaus ei ole ainoa. Tom's Hardwaren mukaan se on jo ainakin kolmas Claude-keskustelu, joka on päätynyt poliisille elokuun jälkeen. Texasin San Antoniossa 22-vuotias mies pidätettiin terroristisesta uhkauksesta, kun hän oli 11. elokuuta kysellyt tekoälykeskustelussa ampumisesta läheisellä alakoululla. San Franciscossa käyttäjä uhkasi 14. elokuuta Anthropicin toimitusjohtajaa Dario Amodeita ja kertoi ostaneensa AR-15-kiväärin. Anthropic ilmoitti poliisille, mutta miestä ei pidätetty eikä syytetty.

Ensin lukee kone, sitten ihminen

Kolme suurta tekoäly-yhtiötä toimii pääpiirteissään samalla tavalla. Automaattiset luokittimet käyvät keskusteluja läpi, ja vain osa niistä päätyy ihmisen silmien eteen. Kukaan ei lue jokaista chattia, mutta mikään keskustelu ei ole myöskään suljettu päiväkirja.

Anthropicin syyskuun 10. päivänä voimaan tulleessa tietosuojaselosteessa sanotaan, että yhtiö voi jakaa henkilötietoja viranomaisille, jos se on tarpeen vakavan vahingon estämiseksi ihmiselle tai omaisuudelle. Viranomaispyyntöjä koskevan ohjeen mukaan tietoja luovutetaan yleensä vain pätevällä oikeudellisella määräyksellä, kuten haasteella tai etsintäluvalla. Poikkeus on hätätilanne, joka voi johtaa välittömään fyysiseen vahinkoon tai kuolemaan.

Merkityt keskustelut myös säilyvät pidempään. Tavallisesti poistettu Claude-keskustelu häviää Anthropicin taustajärjestelmistä 30 päivässä. Jos automaattiset turvajärjestelmät merkitsevät keskustelun käyttöehtojen vastaiseksi, syötteet ja vastaukset säilytetään jopa kaksi vuotta ja turvallisuusluokitukset jopa seitsemän vuotta.

OpenAI kertoi linjastaan elokuussa 2025. Kun järjestelmä tunnistaa käyttäjän, joka suunnittelee toisten vahingoittamista, keskustelu ohjataan pienelle tiimille, jonka jäsenet on koulutettu käyttöehtoihin. Jos tarkastajat katsovat, että kyse on välittömästä vakavan fyysisen vahingon uhasta muille, asia voidaan viedä poliisille. Itsetuhoisia tapauksia yhtiö ei sen mukaan ilmoita poliisille, koska se haluaa kunnioittaa käyttäjien yksityisyyttä. Floridassa yksi ChatGPT-käyttäjä myönsi elokuussa syyllisyytensä kirjallisiin uhkauksiin, kun OpenAI oli ilmoittanut hänen viestistään FBI:lle.

Google sanoo asian suorimmin. Geminin tietosuojasivun mukaan osa keskusteluista käydään läpi ihmisvoimin, ja tarkastajina voi olla myös alihankkijoiden työntekijöitä. Tarkastetut keskustelut säilytetään jopa kolme vuotta, vaikka käyttäjä poistaisi toimintahistoriansa. Sivulla on myös suora kehotus: ”Älä syötä luottamuksellisia tietoja, joita et haluaisi tarkastajan näkevän.”

Entä jos käyttäjä on Suomessa?

Euroopassa Clauden käyttäjien tietojen rekisterinpitäjä on Anthropicin tietosuojaselosteen mukaan Anthropic Ireland, Limited. Silloin sovelletaan EU:n tietosuoja-asetusta. Laittoman toiminnan estämisen oikeusperusteiksi seloste nimeää muun muassa lakisääteisen velvoitteen ja elintärkeiden etujen suojaamisen. Käytännössä hengenvaarassa yhtiö voi ilmoittaa viranomaisille myös Euroopassa.

Vieraan valtion viranomainen ei kuitenkaan voi vain vaatia tietoja. Tietosuoja-asetuksen 48. artiklan mukaan EU:n ulkopuolisen tuomioistuimen tai viranomaisen päätös henkilötietojen luovuttamisesta voidaan tunnustaa vain, jos se perustuu kansainväliseen sopimukseen, kuten keskinäiseen oikeusapusopimukseen. Oikeusapupyynnöt Yhdysvaltoihin ja sieltä ovat perinteisesti olleet hitaita.

Suomen poliisille tilanne muuttui elokuussa. EU:n sähköisiä todisteita koskevaa asetusta on sovellettu 18. elokuuta 2026 alkaen. Sen nojalla jäsenvaltion oikeusviranomainen voi lähettää eurooppalaisen esittämismääräyksen suoraan palveluntarjoajalle tai sen EU:ssa olevalle edustajalle. Tiedot on luovutettava kymmenessä päivässä, hätätapauksissa kahdeksassa tunnissa. Velvoite koskee myös yhtiöitä, joiden pääkonttori on EU:n ulkopuolella, jos ne tarjoavat palvelujaan unionissa. Määräys edellyttää kuitenkin rikostutkintaa ja viranomaisen päätöstä.

Tällä on väliä, koska moni käyttää chatbottia kuin muistikirjaa, terapeuttia tai yöllistä keskustelukumppania. Työpaikoilla sinne liitetään sopimuksia ja asiakastietoja. Kumpikin ryhmä kirjoittaa usein olettaen, ettei kukaan muu lue tekstiä. Yhtiöiden omat ehdot sanovat toista: suurin osa keskusteluista jää koneen luettaviksi, mutta merkityt voivat päätyä ihmisen eteen ja säilyä vuosia. Kun tekstissä on uhkaus toisen henkeä kohtaan, se voi päätyä poliisille ilman, että kukaan on sitä pyytänyt.

Rajan vetää yhtiö itse

Tom's Hardwaren mukaan Anthropicin raportissa vuoden 2025 jälkimmäiseltä puoliskolta ei ollut yhtään poliisin hätätilannepyyntöä. Kaikki kolme tunnettua Claude-tapausta lähtivät siis yhtiöstä itsestään. Ne tunnetaan paikallismedioiden ja oikeusasiakirjojen kautta, eivät yhtiön oman tilaston perusteella.

Kynnyksen määrittelee siis yhtiö. Sanat ”välitön” ja ”vakava” ovat ehdoissa, mutta niiden tulkinnasta päättää tarkastajatiimi, jonka työtä ei auditoida julkisesti. Paine kulkee kumpaankin suuntaan. OpenAI:n toimitusjohtaja Sam Altman joutui tänä vuonna pyytämään anteeksi, koska yhtiö ei ollut hälyttänyt poliisia Kanadan Tumbler Ridgen ampujan tilistä. Kun yhtiötä moititaan vaikenemisesta, ilmoituskynnys tuskin nousee.