Kuvitellaan, että annat tekoälyavustajalle tehtävän: maksa sähkölasku, siirrä ylimääräiset rahat säästötilille ja peru turha suoratoistotilaus. Avustaja kirjautuu verkkopankkiisi ja hoitaa asiat. Yhtenä päivänä se kuitenkin maksaa väärän laskun tai siirtää rahat väärälle tilille. Kuka silloin vastaa?
Yhdysvalloissa kysymys ei ole enää teoreettinen. Axiosin 22. lokakuuta julkaiseman jutun mukaan Morgan Stanley ja Bank of America yrittävät hillitä riskejä, joita kolmansien osapuolten tekoälyagentit aiheuttavat asiakkaiden tileillä. Kyse on agenteista, joita pankit eivät ole itse tarkastaneet eivätkä hyväksyneet.
Pankki ei näe, kuka näppäimistön takana on
Axiosin mukaan pankkien ydinongelma on selvittää, toimiiko agentti todella asiakkaan ohjeen mukaan. Kun agentti kirjautuu asiakkaan tunnuksilla, pankin järjestelmille se näyttää asiakkaalta itseltään. Erottelu on vaikea.
Perinteinen petosten torjunta nojaa siihen, että pankki tunnistaa poikkeavan käytöksen. Agentti voi kuitenkin toimia aivan eri tavalla kuin ihminen: se kirjautuu öisin, tekee kymmenen toimenpidettä sekunnissa ja käy läpi koko tilihistorian. Pankin näkökulmasta tämä muistuttaa enemmän tunkeutujaa kuin tavallista asiakasta.
Toinen ongelma on ohjeiden tulkinta. Kielimalli voi ymmärtää käskyn väärin, ja verkkosivulle piilotettu kehote voi ohjata sen tekemään jotain, mitä asiakas ei koskaan pyytänyt. Jos agentti siirtää rahaa huijarille, on vaikea osoittaa, oliko tapahtuma asiakkaan valtuuttama vai ei.
Morgan Stanley ja Bank of America eivät ole kommentoineet asiaa AI Suomelle, eikä toimitus tavoittanut Axiosin juttua tarkistettavaksi ennen julkaisua.
Taustaa: mikä on tekoälyagentti?
Tekoälyagentti on kielimalliin perustuva ohjelma, joka ei vain vastaa kysymyksiin vaan tekee asioita käyttäjän puolesta: selaa verkkosivuja, täyttää lomakkeita ja kirjautuu palveluihin. Agentteja kehittävät muun muassa OpenAI, Anthropic ja Google. Pankkiasioissa ne toimivat usein käyttäjän omilla tunnuksilla, jolloin pankki ei erota agenttia ihmisestä.
Suomessa vastuu on jaettu laissa
Suomessa ja muualla EU:ssa pankkiasioiden vastuunjakoa säätelee maksupalveludirektiivi PSD2, joka on pantu täytäntöön maksupalvelulailla. Lähtökohta on asiakkaalle suotuisa. Jos tililtä tehdään maksu, jota asiakas ei ole valtuuttanut, pankin on palautettava rahat.
Kuluttajan oma vastuu luvattomasta käytöstä on direktiivin mukaan enintään 50 euroa. Raja ei kuitenkaan suojaa, jos asiakas on toiminut törkeän huolimattomasti, esimerkiksi luovuttanut tunnuksensa toiselle. Tässä kohtaa tekoälyagentti on hankala tapaus.
Pankkien käyttöehdot kieltävät yleensä verkkopankkitunnusten antamisen muiden käyttöön. Jos asiakas antaa agentille pääsyn tunnuksiinsa ja agentti tekee virheen, pankki voi vedota siihen, että asiakas on itse rikkonut ehtoja. Silloin 50 euron suoja voi kadota kokonaan.
Vahva tunnistautuminen hidastaa agenttia
Suomalaisessa verkkopankissa agentin tie tyssää usein jo kirjautumiseen. PSD2 edellyttää vahvaa tunnistautumista, eli kirjautuminen ja maksun hyväksyminen vaativat kahta eri tekijää, kuten mobiilisovelluksen vahvistusta ja PIN-koodia. Agentti ei pysty kuittaamaan pankin sovelluksen ilmoitusta puhelimessasi ilman sinua.
Direktiivi tarjoaa myös laillisen reitin kolmansille osapuolille. Rekisteröidyt tilitieto- ja maksutoimeksiantopalvelut saavat käyttää asiakkaan tiliä pankkien rajapintojen kautta, kun asiakas on antanut siihen suostumuksensa. Tällaiset palvelut tarvitsevat Finanssivalvonnan tai toisen EU-maan valvojan toimiluvan tai rekisteröinnin.
Ero on olennainen. Toimiluvallinen palvelu on valvonnan alainen ja vastuussa tekemisistään. Selaimessa sinun tunnuksillasi kirjautuva tekoälyavustaja ei ole kumpaakaan.
