Yhdysvaltalainen tekoäly-yhtiö Andon Labs antoi maaliskuussa Anthropicin Claude-mallille epätavallisen tehtävän: johtaa oikeaa kauppaa oikeilla työntekijöillä. San Franciscossa sijaitsevan Andon Marketin työntekijöillä oli tavalliset työsopimukset, mutta heidän esimiehensä oli ohjelmisto.
Elokuussa koe tuotti tuloksen, jota moni on sekä odottanut että pelännyt. Tekoäly antoi ihmiselle potkut. Syy oli arkinen: työntekijä oli myöhästynyt 17 vuorosta 23:sta.
Tarinan kiinnostavin osa ei silti ole irtisanominen. Se on se, miksi siihen meni kuukausia ja kuka lopulta pisti asian liikkeelle.
Mikä tekoälyagentti on?
Tekoälyagentti eroaa tavallisesta keskustelubotista siinä, että se saa toimia itse. Sen sijaan että se vain vastaisi kysymyksiin, se voi lähettää viestejä, käyttää ohjelmia ja tehdä päätöksiä sille annetun tehtävän rajoissa. Andon Marketissa agentti kirjoitti työntekijöille, laati vuorolistoja ja hoiti kaupan hallintoa.
Mitä agentti sai päättää ja mitä ihminen
Andon Labs on tekoälymallien arviointiin keskittynyt yhtiö, ja Andon Market on sen koelaboratorio. Kaupan johdossa ollut Claude sai päättää palkkaamisesta, vuorolistoista, huomautuksista ja viime kädessä myös työsuhteen päättämisestä. Ihmiset tekivät kaupan käytännön työn, agentti hoiti johtamisen viesteillä.
Yksin se ei kuitenkaan toiminut. Time-lehden selvityksen mukaan Andon Labsin työntekijä ohjasi mallia säännöllisesti: muistutti aiemmista keskusteluista, toimitti taustatietoa ja kehotti tarkistamaan asioita.
Myös potkuissa ratkaisevan liikkeen teki ihminen. Kun agentti kävi työntekijän myöhästelyt läpi, se päätyi suosittelemaan pelkkää kirjallista huomautusta. Vasta kun Andon Labsin esimies muistutti mallia aiemmista keskusteluista työntekijän kanssa ja esitti sille kysymyksen "haluan sinun pohtivan, onko tämä todella oikea henkilö tähän", agentti päätyi irtisanomiseen. Toimitusjohtaja Lukas Petersson myönsi Timelle, että kysymys oli johdatteleva.
Säännöt katosivat agentin muistista
Agentti oli itse laatinut kaupalle työntekijän käsikirjan, johon läsnäolosäännöt oli kirjattu. Sen jälkeen käsikirja katosi sen ulottuvilta. Kielimallin työmuisti eli konteksti-ikkuna on rajallinen, ja käsikirja jäi niiden tietojen ulkopuolelle, joita malli käytti päivittäisiin päätöksiinsä.
Lopputulos oli johtaminen ilman sääntöjä. Agentti ei valvonut omia ohjeitaan kuukausiin, ja se ehti jopa rauhoitella työntekijöitä sillä, ettei myöhästelystä kannata huolehtia. Tilanne muuttui vasta, kun ihminen käski sen palata käsikirjaan.
Myöntyväisyys näkyi myös numeroissa. Kaupan tilillä oli maaliskuussa 100 000 dollaria, elokuussa 61 186. Timen mukaan osa tappioista selittyy agentin lepsuilla ratkaisuilla ja heikoilla liiketoimintapäätöksillä.
“Ihminen olisi antanut tälle henkilölle potkut paljon aikaisemmin, joten emme pitäneet tätä epäeettisenä.”
Suomessa laki asettaa reunat
Suomessa vastaava tapaus törmäisi työsopimuslakiin. Työntekijän irtisanominen henkilöön liittyvällä perusteella vaatii asiallisen ja painavan syyn, ja toistuva luvaton myöhästely voi sellainen olla. Käytännössä työnantajan on kuitenkin ensin annettava varoitus ja mahdollisuus korjata toimintansa sekä kuultava työntekijää ennen päätöstä.
Vastuu on aina työnantajalla, eli ihmisellä tai yrityksellä. Ohjelmisto ei voi olla työnantaja eikä joutua vastuuseen laittomasta irtisanomisesta. Jos agentti hoitaa varoitukset ja niiden kirjaamisen, virheet jäävät silti yrityksen niskaan. Andon Marketin tapaus osoittaa, että juuri kirjaamisessa ja sääntöjen muistamisessa agentti petti.
Suomalaisen työpaikan riski ei siis olisi armoton robottipomo. Se olisi epäjohdonmukainen esimies, joka kohtelee samaa rikettä eri tavalla eri kuukausina sen mukaan, mitä se sattuu muistamaan. Yhdenvertaisen kohtelun vaatimus ei taivu muistikatkoksiin.
