Jake Moffatt kysyi marraskuussa 2022 Air Canadan verkkosivun chatbotilta, saako surulennon alennuksen jälkikäteen, kun lentää isoäitinsä hautajaisiin. Botti vastasi myöntävästi. Vastaus oli väärä, eikä lentoyhtiö suostunut maksamaan.
Brittiläisen Kolumbian riitalautakunnassa Air Canada väitti, että chatbot oli englanniksi ”a separate legal entity that is responsible for its own actions” eli ”erillinen oikeushenkilö, joka vastaa omista teoistaan”. Lautakunnan jäsen Christopher C. Rivers kutsui puolustusta merkilliseksi ja hylkäsi sen. Helmikuussa 2024 annetun päätöksen mukaan yhtiö vastaa kaikesta, mitä sen verkkosivulla kerrotaan, ja sen piti maksaa Moffattille 812 Kanadan dollaria.
Kun asiakaspalvelun botti erehtyy, vastuu siirtyy siis asiakkaalta yritykselle. Meta huolehtii nyt siitä, että ketju katkeaa siihen.
Yritys kantaa kaikki riskit
Startupfortune.comin mukaan Metan uudet Business AI -ehdot tulevat voimaan perjantaina 30. lokakuuta. Ne koskevat yrityksiä, jotka käyttävät Metan tekoälyagentteja (Business Agents) vastaamaan asiakkaille esimerkiksi WhatsAppissa ja Instagramissa.
Ehdoissa on kaksi keskeistä kohtaa. Ensimmäisen mukaan yritys on yksin vastuussa kaikista riskeistä, jotka liittyvät Metan tekoälyominaisuuksien käyttöön, ja ottaa ne kantaakseen. Samassa tekstissä Meta myöntää, että sen tekoäly voi tehdä virheitä.
Toinen kohta koskee korvausvelvollisuutta. Yritys sitoutuu suojaamaan Metan, sen tytäryhtiöt, työntekijät ja muut edustajat vaateilta, menetyksiltä ja oikeudenkäyntikuluilta, jotka liittyvät yrityksen tekoälyagentteihin. Tähän kuuluvat myös asianajopalkkiot. Meta puolestaan rajaa vastuunsa ulkopuolelle menetetyt voitot ja tulot sekä välilliset vahingot.
Yritys vastaa myös siitä, mitä sen kumppanit ja alihankkijat tekevät työkaluilla sen puolesta. Jos markkinointitoimisto rakentaa ja ylläpitää kampaamon WhatsApp-agenttia, vastuu on silti kampaamolla.
“…are solely responsible for and assume any and all risks…”
Näin tarkistimme ehdot
AI Suomi yritti lukea ehtotekstin Metan sivuilta, mutta ehtosivu ei avautunut ilman kirjautumista. Jutun lainaukset perustuvat startupfortune.comin julkaisemiin otteisiin. Lehden mukaan Meta on kommentoinut vain sisältöjen keräämistä koskevaa kohtaa, jonka se kertoi koskevan ainoastaan mainoksia ja jota se sanoi harkitsevansa uudelleen. Vastuuehtoihin ei ole tehty muutoksia. Yrittäjän kannattaa lukea ehdot omalta Meta Business -tililtään ennen perjantaita.
Lasku jää suomalaiselle yrittäjälle
Omalle asiakkaalleen yritys on vastannut botin puheista jo ennestään. Kuluttajansuojalaissa tai EU:n kuluttajansuojasäännöissä ei ole poikkeusta, jonka mukaan väärä tieto ei sitoisi yritystä siksi, että sen antoi kone. Myyjän antamat tiedot voivat sitoa myyjää, ja WhatsApp-agentti on yrityksen asiakaspalvelua siinä missä myyjä tiskin takana.
Uutta on se, ettei laskua voi enää siirtää eteenpäin. Jos Metan agentti lupaa asiakkaalle väärän hinnan, keksii palautusoikeuden tai neuvoo vaarallisesti, yritys korvaa vahingon itse eikä voi vaatia rahoja takaisin Metalta. Jos asiakas haastaa myös Metan, yritys voi joutua maksamaan senkin puolustuksen.
Pienelle yritykselle tämä on käytännössä vakuutuskysymys. Monesta vastuuvakuutuksesta on rajattu pois sopimuksella otettu vastuu, ja Metalle annettu korvauslupaus on juuri sellainen. Vakuutusyhtiöltä kannattaa kysyä suoraan, kattaako vakuutus tekoälyagentin antamat väärät tiedot.
EU:n tekoälysäädös ei käännä asetelmaa yrittäjän eduksi. Säädöksen mukaan ihmiselle on kerrottava, että hän keskustelee koneen kanssa, ellei se ole ilmeistä. Velvoite kohdistuu ensisijaisesti järjestelmän tarjoajaan eli Metaan, mutta asiakas näkee viestin yrityksen nimissä, ja juuri yritykseen hän ottaa yhteyttä, jos jokin menee vikaan.
Suomessa kohtuuttomia sopimusehtoja voidaan periaatteessa sovitella myös yritysten välillä. Yksittäisen kampaamon tai verkkokaupan on silti vaikea lähteä riitelemään alustajätin vakioehdoista. Ehdot joko hyväksytään sellaisinaan tai palvelusta luovutaan.
