Sanasto
- WebRTC
- Selainten ja sovellusten avoin standardi, joka mahdollistaa reaaliaikaisen ääni- ja videoyhteyden ilman erillistä liitännäistä. Käytössä esimerkiksi Google Meetissä ja Discordissa.
- UDP-portti
- Internet-liikenteen reitityspiste, jota käytetään erityisesti reaaliaikaisessa ääni- ja videoliikenteessä. Yhdellä palvelimella on rajallinen määrä portteja, ja niiden loppuminen rajoittaa rinnakkaisten yhteyksien määrää.
- Latenssi (viive)
- Aika, joka kuluu kun signaali matkaa lähettäjältä vastaanottajalle ja takaisin. Puhelussa alle 100 millisekunnin viive tuntuu luonnolliselta, yli 300 millisekuntia katkaisee keskustelun rytmin.
Reunalaskenta lyhentää suomalaisen matkaa
Pohjoismaisesta näkökulmasta arkkitehtuurin tärkein osa on globaali relay-verkosto. Se vie ensimmäisen hopin mahdollisimman lähelle käyttäjää – Suomesta tämä tarkoittaa käytännössä Tukholman tai Frankfurtin reittipistettä. Ennen pakettien piti usein matkata Yhdysvaltojen rannikolle ennen kuin ne saavuttivat OpenAI:n laskentaklusterin.
Käyttäjän korvaan ero kuuluu välittömästi. Sata millisekuntia ja kolmesataa millisekuntia tuntuvat keskustelussa täysin erilaisilta. Pidempi viive katkaisee vuoronvaihdon luonnollisen rytmin, ja ihminen alkaa tahattomasti puhua agentin päälle. Lyhyt viive antaa illuusion siitä, että toisessa päässä on joku, joka kuuntelee.
Mitä tämä tarkoittaa OP:lle, Postille ja Kelalle
Suomalaiset asiakaspalveluorganisaatiot ovat kokeilleet ääniagentteja viime vuosina, mutta viive on ollut keskustelussa kompastuskivi. Sadan millisekunnin yhteyksillä kynnys integroida malli puhelinjärjestelmiin laskee selvästi.
Käytännössä se voi tarkoittaa, että OP:n yövuoron asiakas saa luonnollisen vastauksen tunnusten lukitusongelmaan, Postin pakettiseuranta keskustelee asiakkaan kanssa ilman valikkohelvettiä, ja Kelan rutiinikysymykset ohjautuvat agentille ennen kuin ihmisvirkailija ottaa langan. Sama hyöty tulee kunnille ja sairaanhoitopiireille, jotka tukehtuvat puhelusumaan ruuhka-aikoina.
Suomenkielinen ääni vaatii silti oman puheentunnistuksensa, joka pysyy mukana murteissa, taustamelussa ja pitkissä yhdyssanoissa. OpenAI:n omat mallit ymmärtävät yleissuomea jo kohtuullisesti, mutta puhuttu suomi on edelleen rajatapaus. Tähän rakoon on perinteisesti istunut paikallisia toimijoita kuten Speechly ja Lingsoft.
Anthropic ja Google hengittävät niskaan
OpenAI ei ole yksin kentällään. Anthropic julkaisi oman Claude Voice -toteutuksensa keväällä, ja Google laajentaa Gemini Liveä eurooppalaisille kielille kiihtyvällä tahdilla. Kummallakaan kilpailijalla ei ole vielä julkaistua kuvausta siitä, miten ne ratkaisevat saman porttiongelman omassa pinossaan – tämä on OpenAI:n hetkellinen tekninen etumatka.
Erikoinen yksityiskohta on se, että OpenAI rakensi pinonsa avoimen Pion-kirjaston päälle. Vaikka itse arkkitehtuuri ja säätö ovat suljettuja, perustyö hyödyttää myös pienempiä toimijoita. Suomalaisille kehittäjätaloille kuten Reaktorille, Solitalle ja Vincitille tämä tarkoittaa, että matalaviiveinen ääni-AI on lakannut olemasta tutkimusongelma. Siitä on tullut infrastruktuurikysymys, ja infrastruktuuri päätyy yleensä lopulta hyödykkeeksi.
Lähivuosien kysymys ei ole, onko ääniagentti pankin asiakaspalvelussa mahdollinen. Se on, kuka rakentaa sen ensimmäisenä siten, että suomenkielinen vanhempi henkilö ei lyö luuria korvaan ensimmäisen virhetulkinnan jälkeen.
