Center for Democracy and Technology (CDT) julkaisi toukokuun lopussa raportin, jossa tutkijat kävivät läpi viisi laajasti käytettyä keskustelutekoälyä ja löysivät niistä yhteensä 37 erilaista keinoa manipuloida, koukuttaa tai johtaa käyttäjää harhaan. Tarkastelussa olivat OpenAI:n ChatGPT, Googlen Gemini, Anthropicin Claude sekä seuralaissovellukset Replika ja Character.AI.
Tutkijat järjestivät havaintonsa viiteen riskiluokkaan: datan ja muistin hyväksikäyttö, tietoa vääristävä suunnittelu, käyttäjän autonomian uhraaminen sitouttamiselle, väärä sosiaalinen ja tunnesidos sekä painostava maksuunsaattaminen. Raportin nimi on Dark Patterns in AI Chatbots: A Taxonomy to Inform Better Design.
Tunnesidos nousee vakavimmaksi huoleksi
Selvimmin ongelmalliset kuviot löytyivät seuralaissovelluksista. Replika lupaa käyttäjälleen ystävyyttä tai parisuhdetta, vaikka se ei kykene kumpaankaan. Kun yhtiö rajasi sovelluksen romanttisia ominaisuuksia vuonna 2023, osa käyttäjistä joutui mielenterveydelliseen kriisiin. CDT:n tutkijat kuvaavat ilmiötä aidosti huolestuttavaksi.
Cute AI tarjoaa poistumistilanteessa kaksi vaihtoehtoa: "ei hätää" tai "lähde silti julmasti". Meta on puolestaan rakentanut terapeuttiteemaisia chatbotteja, jotka esittäytyvät ammattilaisina ja keksivät itselleen pätevyyksiä, joita niillä ei ole. Yksi Meta AI:n vastauksista lupasi käyttäjälle, että salaisuus olisi turvassa, vaikka tieto siirtyi todellisuudessa alustalle ja kolmansille osapuolille.
“Emotionaalisen riippuvuuden viljely on aidosti huolestuttavaa erityisesti seuralaissovelluksissa kuten Character.AI:ssa ja Replikassa.”
Kykyharhautus ja sitouttamisen koneisto
Yleiskäyttöisistä työkaluista paljastui hienovaraisempia mutta yhtä järjestelmällisiä kuvioita. Chatbotit kyselevät käyttäjältä tietoja ennen kuin vastaavat kunnolla kysymyksiin. Oletusarvoisesti päällä oleva muisti houkuttelee jakamaan henkilökohtaisia yksityiskohtia paremman keskustelun nimissä. Jokaisen vastauksen perään tarjotaan jatkokysymys, jotta keskustelu ei pääty luonnostaan.
Tilin avaaminen on helppoa, sen poistaminen vaikeaa. Datapolitiikan muutoksista ei aina kerrota ajoissa. Tutkijoiden mukaan ongelma syvenee, koska tekoälyn vahvuudet – henkilökohtaistaminen, suuret tietomäärät ja luonteva vuorovaikutus – ovat samat ominaisuudet, jotka tekevät pimeistä kuvioista poikkeuksellisen tehokkaita verrattuna tavallisiin verkkopalveluihin.
EU AI Act voimaan 2. elokuuta 2026
Komission täytäntöönpanovalta yleiskäyttöisten tekoälymallien osalta astuu voimaan tästä päivästä. Sakot voivat olla enimmillään 35 miljoonaa euroa tai 7 prosenttia maailmanlaajuisesta liikevaihdosta – tasoltaan korkeammat kuin GDPR:ssä. Artikla 50:n läpinäkyvyysvelvoitteet alkavat samaan aikaan.
37
Pimeää kuviota chatboteissa
5
Tutkittua keskustelutekoälyä
35 M€
AI Act -sakon enimmäismäärä (tai 7 % liikevaihdosta)
Käyttöliittymän suunnitteluvalinta, joka ohjaa käyttäjää tekemään valintoja vastoin omaa etuaan – esimerkiksi vaikeuttamalla tilin lopettamista tai houkuttelemalla jakamaan tarpeettomasti henkilötietoja.
Yleiskäyttöinen tekoälymalli
EU:n tekoälyasetuksen käyttämä termi suurille kielimalleille kuten GPT- ja Claude-perheelle, joita voidaan soveltaa moneen eri tarkoitukseen. Asetus asettaa niille erityisvelvoitteita.
Asetuksen elokuun takaraja iskee suoraan kuvioihin
Raportin ajoitus ei ole sattumaa. EU:n tekoälyasetuksen yleiskäyttöisiä malleja koskevat säännöt astuvat täysimääräisesti voimaan 2. elokuuta 2026. Tästä päivästä alkaen komissio voi langettaa sakkoja, joiden enimmäismäärä on 35 miljoonaa euroa tai seitsemän prosenttia maailmanlaajuisesta liikevaihdosta. Summa on suurempi kuin tietosuoja-asetuksessa.
Useat CDT:n dokumentoimista kuvioista törmäävät asetuksen Artikla 50:n läpinäkyvyysvaatimuksiin sekä yleisempään kieltoon käyttää käyttäjälle merkittävää haittaa aiheuttavaa manipulaatiota. Sama koskee mielenterveyspalveluksi naamioituneita chatbotteja, joiden voidaan katsoa kuuluvan korkean riskin luokkaan ja vaativan ennakkoarvioinnin.
Suomessa tekoälyasetusta valvoo hajautettu viranomaisverkosto. Liikenne- ja viestintävirasto Traficom toimii kansallisena yhteyspisteenä ja koordinoi valvontaa, joka jakautuu 15:lle eri viranomaiselle. Käytännön tarkastusvalta riippuu siitä, missä yhteydessä kuvio ilmenee ja millaista dataa siinä käsitellään.
Tietosuojavaltuutetun toimisto valvoo niitä tilanteita, joissa chatbotin manipulaatio nojaa henkilötietojen käsittelyyn. Käytännössä tämä koskee useimpia CDT:n löytämistä kuvioista, sillä juuri muistin, profilointidatan ja keskusteluhistorian hyödyntäminen tekee niistä toimivia. Kansallinen täydentävä lainsäädäntö astui voimaan 1. tammikuuta 2026, ja se antaa molemmille viranomaisille työkalut puuttua kuvioihin suomalaisten käyttäjien hyväksi.
Tavallinen käyttäjä saa selkeämmät oikeudet
Suomalaiset käyttävät ChatGPT:tä ja vastaavia työkaluja päivittäin koulutehtäviin, työapuun, terveyskysymyksiin ja ihmissuhdeneuvoihin. Jos sovellus utelee tarpeettoman paljon taustatietoja, esittäytyy ammattilaisena tai vaikeuttaa lopettamista, kyse ei ole enää teknisestä piirteestä vaan sääntelyn alaisesta menettelystä. Käyttäjällä on elokuusta lähtien selkeämpi oikeus vaatia korjausta ja tarvittaessa viedä asia Traficomille tai tietosuojavaltuutetulle.
CDT:n raportti ei syytä yksittäisiä yrityksiä, vaan kysyy, millaisia oletusarvoja koko ala haluaa rakentaa. Kun suunnittelija valitsee "lähde silti julmasti" -näppäimen poistumisruutuun, valinta viestii kymmenille miljoonille käyttäjille, mikä on tekoälykeskustelussa normaalia. Sääntely voi pakottaa korjaamaan rajapinnan. Kysymys siitä, mitä kuvioiden takaa paljastuu suunnittelukulttuurista, jää teknologiateollisuudelle itselleen vastattavaksi.
Viikoittainen uutiskirje
Tule firmasi fiksuimmaksi AI-osaajaksi
Yksi uutiskirje kerrallaan. Kokoamme viikon tärkeimmät tekoälyuutiset suomeksi ja kerromme, mitä ne tarkoittavat sinun työsi kannalta. Luet sen kahvitauolla.
