Tölkkejä, joita kukaan ei tilannut
Eräs amerikkalainen juomavalmistaja vaihtoi tuotteidensa etiketit juhlakauden erikoispakkauksiin. Tekoälypohjainen tuotannonohjausjärjestelmä ei tunnistanut uusia etikettejä ja tulkitsi tilanteen niin, että tuotteita puuttuu varastosta. Järjestelmä alkoi ohjata lisätuotantoa, ja ennen kuin virhe havaittiin, tehtaalta oli valmistunut satojatuhansia ylimääräisiä tölkkejä.
Tapaus on tyypillinen esimerkki ilmiöstä, jota asiantuntijat kutsuvat hiljaiseksi epäonnistumiseksi. Tekoäly ei kaatunut, ei antanut virheilmoitusta eikä pysähtynyt. Se vain teki vääriä päätöksiä, järjestelmällisesti ja tehokkaasti, viikkoja ennen kuin kukaan huomasi mitään.
CNBC:n laaja selvitys nostaa esiin tekoälyn riskin, josta puhutaan yllättävän vähän. Julkinen keskustelu pyörii itsenäisesti toimivien tekoälyagenttien ympärillä – pelätään järjestelmiä, jotka kapinoivat ihmistä vastaan. Todellinen uhka on kuitenkin arkisempi ja siksi vaarallisempi.
“Autonomiset järjestelmät eivät aina hajoa näkyvästi. Kyse on hiljaisesta epäonnistumisesta mittakaavassa.”
Virheet kasautuvat huomaamatta
Sopimushallinnan ohjelmistoyhtiö Agiloftin tekoälytoiminnoista vastaava Noe Ramos kuvaa ongelmaa sanoilla "hiljainen epäonnistuminen mittakaavassa". Yksittäinen virhe voi olla pieni: tekoäly tulkitsee datan väärin, luokittelee asiakkaan väärään kategoriaan tai tekee hienoisesti virheellisen ennusteen. Yksittäin nämä virheet vaikuttavat merkityksettömiltä.
Kun tekoäly kuitenkin toistaa samaa virhettä tuhansia kertoja päivässä, viikkojen ajan, pienet poikkeamat kasautuvat. Ramosin mukaan ne muuttuvat operatiiviseksi painolastiksi, sääntelyn noudattamisen ongelmiksi ja luottamuksen rapautumiseksi. Ja koska mikään ei kaadu, voi kestää pitkään ennen kuin kukaan ymmärtää, mitä tapahtuu.
Juomavalmistajan tapaus on konkreettinen, mutta samat riskit koskevat paljon kriittisempiä järjestelmiä. Kun tekoäly ohjaa rahoituspäätöksiä, potilastietojen käsittelyä tai infrastruktuurin hallintaa, hiljaisen virheen seuraukset voivat olla paljon vakavampia kuin ylimääräiset tölkit.
Liian monimutkainen ymmärrettäväksi
Ongelman juurisyy on tekoälymallien monimutkaisuus. Nykyiset suuret kielimallit ja muut tekoälyjärjestelmät ovat kasvaneet niin monimutkaisiksi, etteivät edes niiden kehittäjät täysin ymmärrä, miten ne tekevät päätöksiään. Tämä tekee valvonnasta vaikeaa ja suojarakenteiden luomisesta lähes mahdotonta.
McKinseyn vuonna 2025 julkaiseman tekoälyraportin mukaan 23 prosenttia yrityksistä skaalaa jo tekoälyagentteja organisaatioissaan ja 39 prosenttia kokeilee niitä. Suurin osa käyttöönotosta keskittyy silti vain yhteen tai kahteen liiketoiminta-alueeseen. Yritykset uskovat, että tekoälyn käyttämättä jättäminen asettaa ne strategisesti haavoittuvaan asemaan kilpailijoihin nähden.
Kiire synnyttää riskejä. Kun tekoäly viedään nopeasti osaksi prosesseja ilman kunnollisia valvontamekanismeja, organisaatiot rakentavat järjestelmiä, joiden toimintaa ne eivät voi täysin seurata. Tekoälyturvallisuusalusta Immunefin toimitusjohtaja Mitchell Amador varoittaa, että ihmiset luottavat näihin järjestelmiin liikaa. "Ne ovat oletusarvoisesti turvattomia", Amador sanoo.
