Kuvitellaan tavallinen tiistai-ilta. Pyydät tekoälyagenttia etsimään talvikengät alle sadalla eurolla. Agentti löytää sopivan kaupan, kysyy kortin numeron ja syöttää sen maksusivulle. Paketti ei koskaan saavu, ja kauppa katoaa verkosta viikossa.
Kuka silloin vastaa? Juuri tätä kysyvät nyt pankit. Kuuden pankin ryhmä, johon kuuluvat brittiläinen NatWest, yhdysvaltalaiset Bank of America ja Capital One, hollantilainen ING, uusiseelantilainen ASB Bank ja australialainen Commonwealth Bank of Australia, julkaisi tiistaina 22. syyskuuta raportin tekoälyagenttien tekemien ostosten riskeistä. Asiasta kertoi uutistoimisto Reuters.
Kuten AI Suomi aiemmin kertoi, Amazon sulki Metan Muse-ostosagentilta pääsyn palveluunsa. Siinä kiistassa vastakkain olivat kauppa ja teknologiayhtiö. Nyt ääneen pääsee maksuketjun toinen pää, eli rahat välittävä pankki.
Mitä pankit pelkäävät
Raportin huoli on konkreettinen. Pankkien mukaan agentit voivat pyytää asiakkaalta kortin tiedot ja syöttää ne suoraan verkkosivuille, tai ohjata käyttäjän maksutapaan, jonka suoja on heikompi. Kummassakin tapauksessa pankki ei välttämättä näe, että maksun takana on kone eikä ihminen.
Pankit vievät sääntelijöille ehdotuksen, jonka ydin on yksinkertainen: kun tekoäly on mukana kaupassa, siitä pitää kertoa. Samaan pakettiin kuuluvat vaatimukset läpinäkyvyydestä agentin päätöksenteossa, asiakastietojen suojaamisesta, kuluttajan oikeudesta valita käyttämänsä tekoälypalvelu sekä järjestelmien yhteensopivuudesta.
Reutersin jutussa ei ole yhtään nimettyä pankkilaista. Raportti puhuu yhteisellä äänellä.
“Kuluttajat eivät ole varmoja, toimiiko tekoäly heidän etujensa mukaisesti. He ovat huolissaan siitä, että tekoälyagentit voivat ostaa väärän tuotteen tai kuluttaa liikaa – tai mikä vielä pahempaa, menettää heidän rahansa huijauksiin ja petoksiin.”
Raportti kohdistuu yhtiöihin, jotka markkinoivat keskustelurobottejaan ostosapureina. Reuters mainitsee OpenAI:n, Anthropicin, Googlen ja Metan. Uutistoimiston jutussa yksikään niistä ei vastannut pankkien huoliin, eikä AI Suomi löytänyt yhtiöiden julkisia kommentteja raporttiin tiistai-iltaan mennessä.
Kuinka iso ilmiö on?
Agenttikauppa on vielä pientä mutta kasvaa nopeasti. Brittiläisen tavarataloketju John Lewisin mukaan tekoälyagenttien osuus sen verkkokaupan hauista nousi vuodessa 0,3 prosentista 2,5 prosenttiin.
Vahinkojen määrää ei tiedetä. Pankit eivät esitä julkisuudessa lukuja siitä, montako agentin tekemää ostosta on päätynyt huijaukseen, ja koska maksujärjestelmä ei nykyään erottele agentin maksuja ihmisen maksuista, on mahdotonta sanoa, montako tapausta on jäänyt kirjaamatta. Juuri tätä aukkoa pankkien ehdotus yrittää paikata.
Suomessa huijauksista on tuoreet luvut, joskaan niitä ei ole jaoteltu agenttien mukaan. Finanssiala ry:n mukaan suomalaisilta yritettiin tammi–kesäkuussa huijata 60 miljoonaa euroa, josta 28,3 miljoonaa päätyi rikollisille. Yrityksiä oli noin 20 000. Liiton johtaja Niko Saxholm kuvasi kehitystä syyskuun tiedotteessa: ”Huijauksia siis tehdään yhä enemmän, ja kerralla huijatut summat ovat pienempiä.” Pienet summat ja suuri määrä ovat juuri se yhdistelmä, jossa ihmisen huomio herpaantuu ja agentti hoitaa asian nopeasti.
