Kuvitellaan kymmenen hengen tilitoimisto, jonka toimitusjohtaja kehottaa kaikkia käyttämään tekoälyä rohkeasti. Ensimmäisen kuukauden lasku on muutama sata euroa. Sitten joku ottaa käyttöön agentin, joka käy itsenäisesti läpi asiakkaiden kuitteja, ja seuraava lasku on moninkertainen. Kukaan ei tehnyt mitään väärin. Kukaan ei vain laskenut etukäteen.
Tivi varoittaa juuri tästä ansasta. Lehden mukaan suomalaisyritykset voivat ajautua kalliiseen tilanteeseen, jos ne kannustavat runsaaseen tekoälyn käyttöön mutta eivät ennakoi, kuinka paljon tokeneita se kuluttaa. Tivin esittämän kansainvälisen datan mukaan tekoälyagentit kuluttavat noin viisi kertaa enemmän tokeneita kuin ihmiskäyttäjä, ja tekoälyn osuus yritysten IT-budjeteista on noin neljä prosenttia.
Neljä prosenttia kuulostaa pieneltä. Agenttien yleistyessä osuus voi kuitenkin kasvaa nopeasti, koska kulu ei riipu siitä, montako ihmistä palkkalistoilla on, vaan siitä, kuinka paljon koneet tekevät työtä.
Mikä token on?
Kielimalli ei lue tekstiä sanoina vaan pieninä paloina, joita kutsutaan tokeneiksi. Token voi olla kokonainen lyhyt sana, sanan alku tai pelkkä välimerkki. Englannissa nyrkkisääntö on, että sata sanaa vastaa noin 130:tä tokenia. Suomessa tokeneita kuluu yleensä enemmän, koska pitkät taivutetut sanat pilkkoutuvat useampaan osaan.
Tekoälypalvelut laskuttavat rajapinnan kautta tokeneiden mukaan. Hinta ilmoitetaan tyypillisesti miljoonaa tokenia kohden, ja malliin syötetty teksti on halvempaa kuin mallin itse tuottama. Kiinteähintaisessa kuukausitilauksessa kulu ei näy suoraan, mutta yrityskäytössä ja agenteissa se tulee lähes aina vastaan.
Esimerkkilaskelma euroina
Oletetaan havainnollistuksen vuoksi, että malli maksaa 3 euroa miljoonalta syötetokenilta ja 15 euroa miljoonalta tuotetulta tokenilta. Hinnat vaihtelevat palveluittain ja malleittain, joten tarkista oman palvelusi hinnasto.
Työntekijän tavallinen kysymys, noin 500 tokenia sisään ja 700 ulos, maksaa runsaan sentin. Neljäkymmentä kysymystä päivässä tekee noin 10 euroa kuukaudessa. Jos sama työntekijä siirtyy agenttiin ja kulutus viisinkertaistuu, summa on noin 50 euroa. Kahdenkymmenen hengen yrityksessä ero on noin 200 euron ja 1 000 euron kuukausilaskun välillä.



