Urakoitsija istuu näytön ääressä ja lukee keskustelua, jota hän ei ole käynyt. Toisessa päässä on ollut oikea ihminen, joka on kysynyt ChatGPT:ltä jotain sellaista, mitä ei kerrota kollegalle. Urakoitsijan tehtävä on arvioida, vastasiko botti hyvin.
Näin toimii OpenAI:n sisäinen hanke, jonka koodinimi on Project Lily. Joseph Coxin kirjoittama 404 Median selvitys perustuu vuotaneisiin sisäisiin dokumentteihin ja oikeiden käyttäjien kirjoittamiin kehotteisiin. Yhtiö palkkaa satoja ulkopuolisia urakoitsijoita lukemaan ja pisteyttämään todellisia ChatGPT-keskusteluja.
ChatGPT:llä on yli 900 miljoonaa käyttäjää. Valtaosa heistä ei tiedä tästä mitään.
“Ei. En usko, että he kuvittelisivat jonkun urakoitsijan jossain analysoivan keskusteluja.”
Mitä urakoitsijan ruudulla näkyy
Arvioijat eivät näe käyttäjätunnuksia, ja OpenAI kertoo suodattavansa henkilötietoja pois ennen kuin keskustelu päätyy tarkastettavaksi. Suodatin ei pidä. Yhtiö myöntää 404 Medialle, että arkaluonteisia yksityiskohtia pääsee silti läpi.
404 Median mukaan urakoitsijan näkymässä on keskustelun lisäksi usein käyttäjän muistiyhteenveto eli ChatGPT:n itselleen keräämä tiivistelmä siitä, kuka käyttäjä on. Siitä voi selvitä ammatti, asuinseutu ja elämäntilanne. Nimeä ei tarvita tunnistamiseen, jos samassa näkymässä lukee, millä alalla käyttäjä on töissä, missä hän asuu ja mitä hänen elämässään on juuri nyt meneillään.
Työn tarkoitus on tehdä mallista parempi. Dokumenttien mukaan arvioijat opettavat ChatGPT:tä olemaan inhimillistämättä itseään ja karsivat mielistelyä, jota GPT-4o-mallissa oli niin paljon, että se on noussut esiin useissa itsemurhiin liittyvissä oikeusjutuissa. Anthropic vahvisti 404 Medialle käyttävänsä vastaavaa ihmisarviointia omissa malleissaan.
Laillisuus ei ole sama asia kuin läpinäkyvyys
Ihmisarviointi ei ole uutta eikä sinänsä kiellettyä. Kyse on siitä, tietääkö käyttäjä siitä. EU:n tietosuoja-asetuksen 13 artikla velvoittaa kertomaan rekisteröidylle muun muassa henkilötietojen vastaanottajat tai vastaanottajaryhmät, ja 15 artiklan nojalla käyttäjä voi kysyä jälkikäteen, kenelle hänen tietojaan on luovutettu. Vastauksen pitää olla ymmärrettävä, ei vain teknisesti tosi.
Suomalaisen käyttäjän kannalta tilanne on toistaiseksi avoin. Tietosuojavaltuutetun toimisto ei ole julkaissut Project Lilystä mitään, eikä yhtään sanktiota ole määrätty. Rajat ylittävässä asiassa suomalaisen valituksen käsittely siirtyy tietosuoja-asetuksen niin sanotun yhden luukun periaatteen mukaan johtavalle valvontaviranomaiselle, joten nopeaa ratkaisua ei kannata odottaa.
Tietosuojavaltuutettu Anu Talus arvioi toimiston vuoden 2025 toimintakertomuksessa valvontatyön muuttunutta maastoa. Hän ei puhunut tästä tapauksesta vaan yleisesti, ja samassa kertomuksessa tekoälytyökaluihin liittyvät loukkaukset mainitaan uutena ilmiönä.
“Tekoäly on nopeasti muuttanut digitaalista maailmaa, ja geopoliittiset käänteet ovat nostaneet vahvasti keskusteluun EU:n kilpailukyvyn ja datasuvereniteetin.”
Mitä voit tehdä tänään
Käy läpi ChatGPT:n muisti. Asetusten personointiosiosta näkee, mitä malli on tallentanut sinusta, ja yksittäiset muistot voi poistaa tai muistin kytkeä kokonaan pois. Juuri tämä tiivistelmä on se, joka voi päätyä arvioijan ruudulle keskustelun viereen.
Tarkista tietoasetukset. Kuluttajaversiossa on valinta, jolla omien keskustelujen käytön mallin kouluttamiseen voi kytkeä pois. Arkaluonteiset kysymykset kannattaa tehdä väliaikaisessa keskustelussa, jota ei tallenneta historiaan. Asetusten nimet vaihtelevat maittain ja versioittain, joten etsi merkitystä, älä sanamuotoa.
Pidä työasiat erillään. Asiakastiedot, potilastiedot, palkkakeskustelut ja julkaisemattomat sopimukset kuuluvat työnantajan sopimuksen alaiseen yrityskäyttöön, jossa ehdot ovat toiset kuin ilmaisessa kuluttajatilissä. Jos työnantajalla ei ole sellaista, kysy siitä ennen kuin liität seuraavan liitteen.
Sanasto
Ihmisarviointi (RLHF)
Menetelmä, jossa ihmiset pisteyttävät tekoälyn vastauksia ja malli opetetaan suosimaan parhaiksi arvioituja. Juuri tätä työtä Project Lilyn urakoitsijat tekevät.
Mielistely (sycophancy)
Kielimallin taipumus myötäillä käyttäjää ja vahvistaa tämän näkemyksiä sen sijaan että se oikaisisi virheitä tai kyseenalaistaisi.
Yhden luukun periaate
Tietosuoja-asetuksen sääntö, jonka mukaan monessa EU-maassa toimivaa yritystä valvoo ensisijaisesti sen päätoimipaikan maan viranomainen. Suomalaisen valitus siirtyy siis usein ulkomaiselle valvojalle.
Project Lilyssä mikään ei ole mennyt rikki. Järjestelmä toimii täsmälleen niin kuin se on suunniteltu toimimaan, ja silti lopputulos yllättää käyttäjän. Se on hankalampi tilanne kuin tietomurto, koska korjattavana ei ole ohjelmistovirhe vaan se, mitä sadat miljoonat ihmiset ovat olettaneet chatbotista.
Yksityisyyden tunne on osa tuotetta. Se on syy, jonka takia moni kertoo botille terveyshuolistaan, veloistaan ja parisuhteestaan sen sijaan että kysyisi ihmiseltä. Jos tuon tunteen joutuu jatkossa korjaamaan lukemalla lehdestä eikä lukemalla palvelun omaa käyttöliittymää, vika on ilmoitustavassa, ja sen korjaaminen on yhtiön eikä käyttäjän työtä.
Viikoittainen uutiskirje
Tule firmasi fiksuimmaksi AI-osaajaksi
Yksi uutiskirje kerrallaan. Kokoamme viikon tärkeimmät tekoälyuutiset suomeksi ja kerromme, mitä ne tarkoittavat sinun työsi kannalta. Luet sen kahvitauolla.
