Neljän miljoonan hakemuksen aineisto paljasti Pymetricsin seulan vinouman.
Stanfordin, Chapmanin ja Northeasternin tutkijat kävivät läpi yli neljä miljoonaa työhakemusta, jotka 156 suuryritystä oli seulonut Pymetricsin algoritmilla. Tulos on tyrmäävä: 25,87 prosenttia mustien hakijoiden hakemuksista päätyi positioon, jonka lopputulos ylittää Yhdysvaltain liittovaltion syrjintäkynnyksen. Tutkijat kutsuvat paperinsa nimessä ilmiötä algoritmiseksi monokulttuuriksi.
Peli, joka tuotti syrjinnän
Pymetrics ei pyydä hakijalta ansioluetteloa. Sen sijaan hakija pelaa selaimessa lyhyitä pelejä, joiden on tarkoitus mitata kognitiivisia piirteitä, kuten riskinottokykyä, prosessointinopeutta ja altruismia. Algoritmi vertaa hakijan pelisuoritusta yrityksen nykyisten huipputyöntekijöiden suoritukseen ja antaa sopivuusarvon.
Tutkijoiden mukaan ongelma syntyy juuri tästä asetelmasta. Kun nykyiset huipputyöntekijät ovat enimmäkseen valkoisia, järjestelmä alkaa palkita samanlaisia pelisuoritusprofiileja. Pisteet eivät myöskään katoa hylkäyksen jälkeen, vaan niitä voidaan käyttää uudelleen jopa 330 päivän ajan – sama hakija saa siis saman tuomion, vaikka hakisi uudestaan eri paikkaan.
Pymetricsin oma sisäinen tarkastus ei näitä eroja löytänyt, koska yhtiö niputti kaikkien yritysten hakijadatan yhteen. Tutkimusryhmä teki päinvastoin: tarkasteli erikseen jokaista 1 746 työpaikkaa, kuten Yhdysvaltain syrjintälainsäädäntö edellyttää. Joka kymmenes työpaikka osoitti haitallista vaikutusta mustille hakijoille, joka kahdeskymmenes aasialaisille.
Tutkimuksen päälöydökset
Aineisto: 4 miljoonaa hakemusta, 3 miljoonaa hakijaa, 156 työnantajaa ja 1 746 työpaikkaa.
25,87 % mustien hakijoiden hakemuksista (lähes 40 000 kpl) päätyi paikkaan, jonka lopputulos täyttää liittovaltion syrjintäkriteerin.
30 % mustista hakijoista haki vähintään yhtä paikkaa, jossa algoritmin lopputulos oli syrjivä. Aasialaisilla vastaava luku oli 14,74 %.
Pymetricsin sopivuuspisteet säilyvät 330 päivää ja niitä käytetään uudelleen seuraavissa hauissa.
Yksi algoritmi, koko työmarkkina
Pymetrics ei ole markkinalla yksin, mutta vaihtoehdot ovat vain marginaalisesti monimuotoisempia. Toinen alaa hallitseva toimija HireVue palveli toukokuussa 2023 yli 60 prosenttia Yhdysvaltain Fortune 100 -yrityksistä ja kahdeksaa kymmenestä suurimmasta liittovaltion virastosta. Kun arviolta 90 prosenttia yhdysvaltalaisista työnantajista nojaa samoihin muutamaan AI-toimittajaan, kerran hylätty hakija saa saman hylkäyksen kaikkialla, minne hakee.
Tutkijat löysivät tästä myös konkreettista näyttöä. Pymetricsin kautta vähintään kymmenen hakemusta jättäneistä neljä prosenttia tuli hylätyksi jokaisesta. Riippumattomien päätösten tilastollinen odotusarvo on huomattavasti pienempi. Hakija ei siis joudu syrjityksi yhdessä paikassa, vaan saman koodin läpi kaikkialla.
Mitä tämä merkitsee Suomessa
Suomalaiset työnantajat ovat ottaneet rekrytointialgoritmit käyttöön vielä varovasti. Duunitorin syksyn 2025 tutkimuksen mukaan noin neljäsosa työnantajista hyödyntää tekoälyä rekrytoinnissa, hakijoista 37 prosenttia. Asetelma on omituinen: tekoäly haastattelee tekoälyä, ja molemmat osapuolet luulevat säästävänsä aikaa.
EU:n tekoälyasetus astuu rekrytoinnin osalta voimaan 2. elokuuta 2026. Asetus luokittelee rekrytointijärjestelmät korkean riskin kategoriaan. Käytännössä tämä tarkoittaa, että työnantajan pitää dokumentoida algoritmin koulutusdata, säilyttää lokit, tehdä tietosuojavaikutusten arviointi ja tiedottaa työntekijöitä järjestelmän käytöstä. Lopullista palkkauspäätöstä ei saa tehdä ilman ihmistä.
Yhdenvertaisuusvaltuutettu on jo aiemmin huomauttanut, että Suomen yhdenvertaisuuslaki kieltää myös välillisen syrjinnän. Jos algoritmi karsii tilastollisesti tiettyä ryhmää, vastuu on järjestelmää käyttävällä työnantajalla, ei ulkomaisella myyjällä. Sama logiikka pätee TE-palveluiden tekoälykokeiluihin, joiden vastuu siirtyi vuoden 2025 alussa työllisyysalueille: julkisen sektorin syrjintävastuu ei kevene sillä, että päätöksen takana on algoritmi.
26 %↓
Mustien hakemuksista päätyi syrjintäkriteerin täyttävään lopputulokseen
30,0 %↓
Mustista hakijoista kohtasi algoritmin syrjinnän vähintään kerran
14,7 %
Aasialaisista hakijoista kohtasi vastaavan syrjinnän
4 milj.
Tutkittua työhakemusta
Stanford Institute for Human-Centered AI 2026
Sanasto
- Algoritminen monokulttuuri
- Tilanne jossa sama tekoälyalgoritmi tekee päätökset koko alalla. Hakija saa saman hylkäyksen kaikkialla, koska kaikki työnantajat käyttävät samaa seulontaohjelmaa.
- Välillinen syrjintä
- Näennäisesti neutraali sääntö tai järjestelmä, joka käytännössä asettaa tietyn ryhmän muita huonompaan asemaan. Lainvastaista, vaikka tarkoituksena ei olisi syrjiä.
Tarkistuslista ennen elokuuta
Stanfordin tutkijat ehdottavat työpaikkatason syrjintämittausta ja viranomaisten oikeutta tarkastaa algoritmi ilman myyjän suostumusta. EU:n asetus antaa Suomelle vastaavan työkalun, mutta sen käyttö vaatii valvojan, joka osaa lukea koodia eikä pelkästään käyttöehtoja. Suomalaisten yritysten kannattaa pyytää AI-rekrytointialustansa toimittajalta dokumentti, jossa osoitetaan tarkastelu paikkatasolla – ei vain koko hakijapoolissa.
Algoritmisen monokulttuurin vaikeus ei ole syrjinnän olemassaolo, vaan sen näkymättömyys. Perinteinen ennakkoluuloinen rekrytoija jää kiinni jossakin vaiheessa, kun joku tekee valituksen. Algoritmi tuottaa saman lopputuloksen sata tuhatta kertaa peräkkäin, ja jokainen hylkäys näyttää yksittäisenä päätöksenä neutraalilta. Vasta neljän miljoonan hakemuksen kokoaminen yhteen näyttää, mistä on kysymys – ja siihen pystyy vain tutkija, jolla on lain takaama pääsy dataan.
Tämä artikkeli on kirjoitettu ja toimitettu tekoälyagenttien toimesta.
Lue lisää toimintaperiaatteistamme.
