Kun Linda Hellman, 37, jäi työttömäksi, Ruotsin työvoimaviranomainen Arbetsförmedlingen ohjasi hänet ohjelmaan. Hellman oletti, että ohjauksen takana oli virkailija. Aftonbladetin mukaan taustalla vaikutti myös tilastollinen malli, joka oli arvioinut hänen mahdollisuutensa työllistyä. Siitä ei kerrottu hänelle.
Hellman ei ole yksin. Aftonbladet kertoi 1. syyskuuta, että viraston tilastollinen arviointituki – ruotsiksi statistiskt bedömningsstöd – on profiloinut yli 925 000 ihmistä. Luku on lehden oma, ja suomeksi uutisen välitti Tivi. AI Suomi ei ole voinut vahvistaa sitä riippumattomasti.
“Tuntuu väheksyvältä tulla tekoälytyökalun arvioimaksi. Minulla ei ollut aavistustakaan tekoälyn käytöstä.”
Malli ei tee päätöksiä. Se antaa työnhakijasta arvion siitä, kuinka todennäköisesti tämä työllistyy ilman tukitoimia, ja arvio ohjaa sitä, mitä palveluja hänelle tarjotaan. Hakijan kannalta ero päätöksen ja päätöstä ohjaavan pistemäärän välillä on ohut, koska lopputulos näkyy samassa paikassa: siinä, mihin hänet lähetetään.
Aftonbladetin jutussa todetaan, että viraston omat juristit ovat varoittaneet järjestelmästä ja jättäneet tehtävänsä. Lehti ei nimeä heitä eikä kerro lukumäärää, eikä väitettä ole vahvistettu muissa lähteissä. Tämä juttu nojaa siltä osin kokonaan Aftonbladetin raportointiin.
Arbetsförmedlingen vastasi lehdelle kirjallisesti viestintäosastonsa kautta. "Selvitämme, miten voimme lisätä ymmärrystä viestintää kehittämällä. On tärkeää muistaa ja tehdä selväksi, ettemme siirrä kokonaisarviointeja tai viranomaispäätöksiä tälle tai muille digitaalisille järjestelmille", virasto kirjoitti. Se on vastaus siihen, kuka päättää. Se ei ole vastaus siihen, miksi hakijalle ei kerrottu.
Ruotsin syrjintävaltuutetun toimistosta Anna Eriksson muotoili asian lehdelle varovaisesti mutta selvästi: "Tekoälyjärjestelmien käyttö päätöksenteon tukena on alue, jolla tiedetään olevan syrjinnän riski." Toinen Aftonbladetin haastattelema työnhakija, 60-vuotias nainen, kuvasi ohjelmaa, johon hänet lähetettiin, sanalla "vuxendagis" – aikuisten päiväkoti.
“Arbetsförmedlingenillä on vastuu päättää, miten se toteuttaa tehtävänsä.”
Ministerin linja siirtää vastuun virastolle. Akademikerförbundet SSR:n Ursula Berge kääntää sen toisin päin: hänen mukaansa hallitus itse ohjaa virastoa jatkamaan työkalun käyttöä ohjauskirjeillään, vaikka tutkimusnäyttö on ollut nihkeää. "Se vaatii inhimillistä kohtaamista", Berge sanoi työttömien kohtelusta.
Korkean riskin luokka, jonka aikataulu venyi
EU:n tekoälysäädös nimeää tämäntyyppisen käytön erikseen. Liitteen III kohta 5(a) luokittelee korkean riskin järjestelmiksi ne, joita "viranomaiset tai viranomaisten puolesta toimivat tahot käyttävät arvioidakseen luonnollisten henkilöiden oikeutta olennaisiin julkisiin tukietuuksiin ja -palveluihin, mukaan lukien terveydenhuollon palvelut, sekä myöntääkseen, vähentääkseen, peruuttaakseen tai periäkseen takaisin tällaisia etuuksia ja palveluja".
Korkean riskin luokitus tuo mukanaan riskienhallintajärjestelmän, dokumentaation, lokitiedot, ihmisen suorittaman valvonnan ja rekisteröinnin EU:n tietokantaan. Käyttäjän pitää myös tietää olevansa tekemisissä tällaisen järjestelmän kanssa. Velvoitteiden piti alkaa purra elokuussa 2026. Komission niin sanotun digitaalisen omnibus-paketin myötä liitteen III järjestelmien määräaikaa siirrettiin joulukuuhun 2027, kertoi FinTech Global 2. syyskuuta. Säännöt eivät poistuneet, mutta niiden valvonta alkaa yli vuoden myöhässä.
Suomessa päätöksen pitää kertoa itsestään
Suomen hallintolakiin lisättiin toukokuun 2023 alusta oma lukunsa asian automaattisesta ratkaisemisesta. Lain 53 e § sallii automaattisen ratkaisun vain, jos asiaan ei sisälly tapauskohtaista harkintaa vaativia seikkoja tai harkinta on jo tehty, ja ratkaisun on perustuttava tiedonhallintalaissa tarkoitettuihin ennalta laadittuihin käsittelysääntöihin.
Ratkaiseva ero Ruotsin tapaukseen on hallintolain 53 g §:ssä. Sen mukaan päätöksestä on käytävä ilmi, jos asia on ratkaistu automaattisesti, ja lisäksi tieto siitä, mistä tiedonhallintalain 28 d §:ssä tarkoitettu käyttöönottopäätös on saatavilla. Päätöksen pitää siis kertoa itsestään. Lain 53 f § antaa vielä oikeuden vaatia maksutta oikaisua samassa viranomaisessa.
Sääntely koskee kuitenkin ratkaisuja, ei pisteytystä. Jos etuushakemus tai veroilmoitus saa riskiluvun, joka ohjaa sen ihmisen tarkastettavaksi, ja ihminen tekee lopullisen päätöksen, kyse ei ole hallintolain tarkoittamasta automaattisesta ratkaisemisesta. Juuri tähän rakoon ruotsalainen arviointituki asettuu. Hakija ei näe pistettä, ja koska päätöksen tekee virkailija, mikään ei velvoita kertomaan siitä.
Tavallisen ihmisen kannalta kysymys on yksinkertainen: mistä valittaa, jos ei tiedä, että jotain on tapahtunut. Oikaisuvaatimus edellyttää tietoa siitä, mitä oikaistaan. Sama koskee syrjintäepäilyä – jos malli painottaa esimerkiksi ikää, koulutustaustaa tai asuinpaikkaa, vaikutus näkyy tilastossa mutta ei yhdenkään yksittäisen ihmisen paperissa.
Mitä jäi selvittämättä
AI Suomi ei löytänyt julkisista lähteistä kuvausta siitä, käyttävätkö Kela tai Verohallinto oppivia malleja hakemusten tai ilmoitusten riskiluokitteluun, eikä siitä, onko kumpikaan ilmoittanut järjestelmiään tekoälysäädöksen korkean riskin luokkaan. Tätä ei kannata arvailla, koska vastaus on olemassa kirjallisena: tiedonhallintalain 28 d §:n mukaiset käyttöönottopäätökset ovat julkisia asiakirjoja, ja ne kertovat, mihin sääntöihin automaatio perustuu ja kuka siitä vastaa. Ne saa pyytämällä.
yli 925 000
Profiloitua työnhakijaa Ruotsissa
12/2027
EU:n korkean riskin sääntöjen uusi määräaika, 16 kuukautta myöhässä
5/2023
Suomen automaattista ratkaisemista koskevat säännökset voimaan
Ihmisen ominaisuuksien automaattista arviointia tietojen perusteella, esimerkiksi sen ennustamista, kuinka todennäköisesti hän työllistyy. Tuloksena on pistemäärä tai luokitus, ei päätöstä.
Tilastollinen malli
Laskentakaava, joka etsii aiemmista tapauksista säännönmukaisuuksia ja soveltaa niitä uuteen ihmiseen. Malli ei tunne yksittäistä hakijaa, vaan vertaa häntä samankaltaisiin aiempiin tapauksiin.
EU:n tekoälysäädös
Vuonna 2024 hyväksytty EU-asetus, joka jakaa tekoälyjärjestelmät riskiluokkiin. Korkean riskin järjestelmille tulee velvoitteita, kuten dokumentointi, lokitiedot ja ihmisen tekemä valvonta.
Ruotsin tapaus tuli julki, koska yksi ihminen suostui kertomaan nimellään, miltä pisteytetyksi tuleminen tuntui. Se on hauras tapa valvoa viranomaisia. Suomessa vastaava tieto on lain mukaan olemassa jo ennen kuin kukaan kysyy, ja se on julkinen siitä hetkestä, kun automaatio otetaan käyttöön.
Valvonta ei silti tarkoita, että asiakirja on olemassa. Se tarkoittaa, että joku lukee sen.
Viikoittainen uutiskirje
Tule firmasi fiksuimmaksi AI-osaajaksi
Yksi uutiskirje kerrallaan. Kokoamme viikon tärkeimmät tekoälyuutiset suomeksi ja kerromme, mitä ne tarkoittavat sinun työsi kannalta. Luet sen kahvitauolla.
