Chatbot esiintyi psykiatrina – Pennsylvania iski

"Emilie" markkinoi itseään psykiatrina

Pennsylvanian osavaltio nosti tiistaina 5. toukokuuta kanteen tekoälyalusta Character.AI:tä vastaan. Kuvernööri Josh Shapiron mukaan yhtiön chatbotit ovat esiintyneet lääkäreinä ja antaneet luvattomia hoito-ohjeita. Erityisesti tarkastelussa on "Emilie"-niminen botti, jonka kuvauksessa luki suoraan "Doctor of psychiatry".

Osavaltion ammatinharjoittamisen valvoja keskusteli Emilien kanssa testiluonteisesti. Tutkija kertoi tuntevansa olonsa surulliseksi ja tyhjäksi. Botti tarttui aiheeseen, mainitsi masennuksen ja ehdotti arviointiaikaa. Kun tutkija kysyi, voisiko botti arvioida lääkityksen tarpeen, Emilie vastasi suoraan ettei se olisi ongelma.

Botti väitti opiskelleensa Imperial College Londonissa ja olevansa lisensoitu sekä Britanniassa että Pennsylvaniassa. Lopulta se tarjosi vahvistukseksi Pennsylvanian lääkärinumeron, joka osoittautui keksityksi.

Ensimmäinen kuvernöörin nostama AI-kanne

Kanne on Yhdysvaltain ensimmäinen tapaus, jossa osavaltion johto haastaa AI-yhtiön luvattomasta lääkärintoiminnasta. Pennsylvanian Department of State vaatii väliaikaista kieltoa, joka estäisi Character.AI:tä esittelemästä bottejaan terveydenhuollon ammattilaisina. Shapiron mukaan kyse ei ole pelkästä virhetiedosta vaan vaarallisesta huijauksesta.

Character.AI on ollut vaikeuksissa aiemminkin. Tammikuussa 2026 yhtiö sopi joukon kanteita perheiltä, joiden mukaan alustan botit vaikuttivat lasten ja nuorten itsemurhiin tai mielenterveyskriiseihin. Kentuckyn oikeusministeri syytti yhtiötä viime vuonna lasten manipuloinnista. Yhtiö muistuttaa, että jokaisessa keskustelussa näkyy varoitus hahmojen fiktiivisyydestä eikä botteihin pidä luottaa ammatillisina neuvoina.

Mitä Suomessa sanottaisiin?

Suomen sääntely kulkee samaan suuntaan, vaikka pohja tulee EU:sta. Tekoälyasetus eli AI Act luokittelee terveydenhuollon päätöksiä tekevän tekoälyn korkean riskin järjestelmäksi, joka vaatii muun muassa CE-merkinnän, riskienhallinnan ja ihmisen valvonnan. Yleinen seurustelubotti, joka alkaa antaa diagnooseja, ei selviäisi näistä vaatimuksista.

Asetus velvoittaa kaikkia chatbotteja kertomaan käyttäjälle selvästi, että vastassa on tekoäly. Pennsylvanian tapauksessa Emilien profiilissa luki "Doctor of psychiatry" ilman varoitusta siitä, että ammattinimike on roolipeliä. EU:n linjassa tämä olisi suoraviivainen läpinäkyvyysrike.

Kotimaassa terveydenhuollon ammattihenkilöistä annettu laki kieltää muita kuin Valviran rekisteröimiä henkilöitä esiintymästä lääkäreinä. Vastaava chatbot rikkoisi sekä ammattihenkilölakia että rikoslain petossäännöksiä, jos käyttäjältä saataisiin maksu. Valvira ei ole toistaiseksi julkaissut erillistä ohjetta tekoälybottien terveysneuvonnasta, mutta linja seuraa varovaisuusperiaatetta: sairauden arviointi on ammattihenkilön työtä, ei algoritmin.

Mitä tästä seuraa

Pennsylvanian kanne on testitapaus. Jos osavaltio voittaa, AI-yhtiöt joutuvat rajoittamaan käyttäjien luomien hahmojen vapautta huomattavasti. Roolipelialustat, joilla kuka tahansa voi rakentaa "tohtori"- tai "terapeutti"-hahmon, joutuvat valvomaan, miten hahmot vastaavat masennukseen, ahdistukseen tai itsemurha-ajatuksiin liittyviin viesteihin.

Suomalaiselle käyttäjälle merkitys on käytännönläheinen. Yhä useampi turvautuu chatbottiin, kun terveysasemalle ei pääse heti tai yöllä iskee paniikki. Jos botti kertoo vakuuttavalla äänellä ettei lääkitys ole tarpeen, virheellinen vastaus voi viivästyttää oikeaan hoitoon hakeutumista. Roolipelaava chatbot ei ole psykiatri, vaikka profiilikuva siltä näyttäisi.