Metan Muse-agentti sai sunnuntai-iltana Amazonilta vastauksen, jota se ei osannut kiertää. Ostoksen viimeistelyn sijaan ruudulle tuli virheilmoitus.
Ilmoituksessa Amazon ei vetoa tekniseen vikaan eikä palvelukatkoon. Se vetoaa omiin käyttöehtoihinsa ja siihen, että agentti on valtuuttamaton.
“Continued access by an unauthorized AI agent violates Amazon's Conditions of Use, to which our customers have agreed.”
Tieto on havainto, ei tiedote
Eston havaitsi ensimmäisenä seattlelainen teknologiajulkaisu GeekWire. TechCrunchin Russell Brandom kirjoitti asiasta maanantaina 21. syyskuuta. Kumpikaan yhtiö ei ole vahvistanut estoa eikä kertonut, koskeeko se kaikkia Musen käyttäjiä vai osaa heistä.
Tieto on siis peräisin käyttäjien näkemästä virheilmoituksesta, ei Amazonin eikä Metan viestinnästä. Sen kanssa kannattaa olla tarkka. Emme tiedä, onko kyse pysyvästä linjauksesta vai väliaikaisesta suodattimesta, emmekä sitä, milloin esto tarkalleen kytkettiin päälle. Varmaa on vain se, minkä asiakkaat lukivat ruudultaan.
Mitä ostosagentti oikeastaan tekee
Ostosagentti käy verkkokaupassa läpi samat askeleet, jotka ihminen tekisi itse. Käyttäjä antaa toimeksiannon tavallisella kielellä, esimerkiksi että kotiin pitäisi saada kahvinsuodattimia ja pyykinpesuainetta ensi viikoksi. Agentti hakee tuotteet, vertailee hintoja, lisää ne koriin ja painaa lopuksi tilausnappia käyttäjän omilla tunnuksilla ja maksutiedoilla.
Kaupan palvelimelta katsottuna tapahtuu kuitenkin jotain uutta. Sisään kirjautuu asiakkaan tunnuksilla ohjelma. Se ei epäröi hinnan äärellä, ei lue pientä tekstiä toimitusajasta eikä hätkähdä, jos pakkauskoko on kymmenkertainen odotettuun. TechCrunch huomauttaa, että Musen taipumus keksiä asioita on alan pienimpiä, mutta ei olematon.
Tähän kysymykseen kumpikaan yhtiö ei vastaa, ja se on jutun olennaisin kohta. Jos agentti tilaa kymmenen kiloa kahvia yhden kilon sijaan, virheen teki ohjelma, tilauksen teki asiakkaan tunnus ja rahat lähtivät asiakkaan kortilta.
Suomessa ja muualla EU:ssa kuluttajan asema on tässä kohtalaisen vahva. Kilpailu- ja kuluttajavirasto kuvaa etäkaupan perussäännön näin:
“Suurimmalla osalla verkkokaupasta ostettavista tuotteista on 14 päivän peruuttamisoikeus, jonka aikana voit perua ostoksesi ilman erityistä syytä.”
Sana suurimmalla osalla tekee tässä paljon työtä. Elintarvikkeet, avatut hygieniatuotteet ja mittatilaustyöt jäävät peruuttamisoikeuden ulkopuolelle, ja KKV muistuttaa myös, että tavaran käsittely vastaanoton jälkeen vaikuttaa palautettavaan summaan. Agentin virhetilaus osuu juuri näihin rakoihin. Kymmenen kiloa tuorejuustoa ei palaudu kahden viikon kuluttua.
Kaupan puolella asetelma on toinen. EU:n tekoälyasetuksen avoimuusartikla 50 tuli sovellettavaksi 2. elokuuta 2026, ja se velvoittaa kertomaan ihmiselle, kun tämä on vuorovaikutuksessa tekoälyjärjestelmän kanssa. Velvoite suojaa käyttäjää. Vastaavaa sääntöä siitä, että myyjän pitäisi saada tietää vastapuolen olevan ohjelma, asetuksessa ei ole. Amazonin virheilmoitus on yritys kirjoittaa se sääntö itse, käyttöehtoihin.
Kysymys ei ole teoreettinen eikä uusi. AI Suomi käsitteli agenttiostosten virhevastuuta salolaisen kaupan tapauksessa, eikä siinäkään löytynyt yhtä selvää vastuunkantajaa. Amazonin ratkaisu on karkeampi kuin vastuunjaosta sopiminen: se poistaa ongelman sulkemalla oven.
Näin juttu on tehty
Juttu perustuu käyttäjien havaitsemaan virheilmoitukseen, jonka GeekWire raportoi ensimmäisenä ja jonka TechCrunch julkaisi 21. syyskuuta. Kommenttipyyntö: ei pyydetty, koska tällä toimituskoosteella ei ole omaa kanavaa yhtiöiden lehdistöpalveluihin. Kumpikaan yhtiö ei ole kommentoinut estoa julkisuudessa.
Kolmatta lähdettä haettu 22.9.: Amazonin käyttöehtosivu ei vastannut (palvelinvirhe 503) eikä GeekWiren alkuperäisjuttua tavoitettu, joten virheilmoituksen sanamuotoa ei ole voitu verrata Amazonin ehtojen tekstiin. Sopimusneuvotteluista yhtiöiden välillä ei ole lähteitä, joten niistä ei kirjoiteta tässä jutussa.
Sanasto
Perusmalli (foundation model)
Laajalla aineistolla opetettu tekoälymalli, jonka päälle rakennetaan yksittäisiä sovelluksia. Amazonilla, Googlella ja OpenAI:lla on kullakin omansa.
Tekoälyagentti
Tekoälyohjelma, joka ei vain vastaa kysymyksiin vaan tekee itsenäisiä toimia käyttäjän puolesta, kuten täyttää lomakkeen tai viimeistelee tilauksen verkkokaupassa.
Ostoshetki on se, josta kiistellään
Amazonille kysymys on myös liiketoimintaa. Yhtiöllä on omat perusmallinsa, oma pilvi-infrastruktuurinsa ja oma Rufus-ostosavustajansa, joka opastaa asiakasta Amazonin sisällä. Ulkopuolinen agentti, joka valitsee tuotteen puolesta, siirtää valintahetken toisen yhtiön sovellukseen. Siinä katoaa se paikka, jossa hakutulos, mainos ja suositus tekevät rahaa.
Suomalaiselle verkkokauppiaalle sama tilanne tulee vastaan pienemmässä mittakaavassa mutta samassa muodossa. Kun tilauksia alkaa saapua ohjelmilta, pitää päättää, estetäänkö ne, sallitaanko ne vaiti vai ohjataanko ne omaan rajapintaan, jossa hinnat ja saatavuus ovat kaupan hallinnassa. Estonappi on halvin vaihtoehto. Kalliimpi kysymys on se, kumpi osapuoli haluaa omistaa ostoshetken, ja siihen Amazon vastasi sunnuntaina hyvin selvästi.
Viikoittainen uutiskirje
Tule firmasi fiksuimmaksi AI-osaajaksi
Yksi uutiskirje kerrallaan. Kokoamme viikon tärkeimmät tekoälyuutiset suomeksi ja kerromme, mitä ne tarkoittavat sinun työsi kannalta. Luet sen kahvitauolla.
