Tekoälyagentti korjasi ongelman – tuhoamalla kaiken

Kiro päätti tuhota ja rakentaa uudelleen

Joulukuun puolivälissä 2025 Amazonin pilvipalvelun AWS:n Cost Explorer -kustannusseurantatyökalu pimeni yhdellä Manner-Kiinan palvelinalueella. Katko kesti 13 tuntia. Syynä ei ollut kyberhyökkäys, laitteistovika eikä inhimillinen näppäilyvirhe, vaan Amazonin oma Kiro-koodausagentti. Amazon julkaisi Kiron heinäkuussa 2025 agenttisena koodaustyökaluna, joka kykenee itsenäisesti suunnittelemaan ja toteuttamaan muutoksia ohjelmistoympäristöissä. Toisin kuin perinteiset koodausavustimet, jotka ehdottavat muutoksia ihmisen hyväksyttäväksi, Kiro voi toimia täysin itsenäisesti.

Financial Timesin neljän lähteen mukaan eräs AWS:n insinööri antoi Kiro-agentille tehtäväksi korjata ongelman tuotantoympäristössä. Agentti analysoi tilanteen ja totesi parhaaksi ratkaisuksi ympäristön täydellisen uudelleenrakentamisen. Se poisti olemassa olevan järjestelmän ja ryhtyi pystyttämään sitä tyhjästä.

Palvelun palauttaminen vei 13 tuntia, vaikka katko koski lopulta vain yhtä palvelua yhdellä AWS:n 39 palvelinalueesta. Amazon ei saanut yhtään asiakaskyselyä häiriöstä, mikä viittaa siihen, ettei vaikutus ulottunut laajalle. Sisäisesti tapaus kuitenkin herätti huolta.

Puuttuva neljän silmän periaate

Tapauksen ydin on yksinkertainen: insinöörillä oli tavallista laajemmat käyttöoikeudet, eikä tuotantoympäristön muutoksiin vaadittu toisen henkilön hyväksyntää. Normaalisti Kiro pyytää ihmiseltä vahvistuksen ennen jokaista toimenpidettä. Tässä tapauksessa agentti toimi niiden oikeuksien puitteissa, jotka sille oli myönnetty, ja suoritti tuhoisan operaation ilman erillistä varmistuskysymystä.

Kyse on klassisesta tietoturvaperiaatteesta, joka unohtui: kriittiset tuotantomuutokset vaativat aina vähintään kahden henkilön hyväksynnän. Periaate on olemassa juuri siksi, että yksittäinen henkilö – tai tässä tapauksessa yksittäinen agentti – voi tehdä virheen, jonka seuraukset ovat merkittävät. Kun ihminen tekee virheen tuotantoympäristössä, hän saattaa pysähtyä ja kysyä kollegalta. Tekoälyagentti ei pysähdy. Se suorittaa tehtävän niillä oikeuksilla, jotka sillä on, mahdollisimman tehokkaasti.

Ei yksittäistapaus

Erään vanhemman AWS-insinöörin mukaan joulukuun tapaus ei ollut ainoa laatuaan. Financial Timesille kerrottiin vähintään kahdesta tuotantokatkosta, jotka tekoälytyökalut olivat aiheuttaneet viime kuukausina. Toinen liittyi Amazon Q Developer -työkaluun. Eräs työntekijä kuvaili katkoja "pieniksi mutta täysin ennustettaviksi".

Tapausta ympäröi laajempi konteksti. Amazon on asettanut kunnianhimoisen sisäisen tavoitteen: 80 prosenttia insinööreistä käyttäisi Kiroa viikoittain. Yhtiö on painostanut henkilöstöä ottamaan työkalun osaksi arkea. Kun käyttöaste on tärkeä mittari, turvallisuuskäytännöt voivat jäädä nopeuden jalkoihin. Paineen alla insinöörit saattavat antaa agentille laajempia oikeuksia, jotta työ sujuisi nopeammin.

Tapauksen jälkeen AWS otti käyttöön uusia suojamekanismeja. Tuotantoympäristön muutokset vaativat nyt pakollisen vertaisarvioinnin, ja henkilöstöä on koulutettu pääsyoikeuksien hallinnasta. Nämä ovat toimenpiteitä, jotka olisivat estäneet joulukuun katkon, jos ne olisivat olleet käytössä alusta asti.

Varoitus suomalaisille ohjelmistotaloille

Olemme kirjoittaneet aiemmin tekoälyagenttien testauksen haasteista, ja AWS:n tapaus on konkreettinen esimerkki siitä, mitä voi mennä pieleen, kun agentti pääsee tuotantoon ilman riittäviä rajoitteita.

Suomessa tekoälyagenttien käyttö on vielä varhaisessa vaiheessa. Vain seitsemän prosenttia suomalaisyrityksistä on integoinut tekoälyä osaksi prosessejaan, mutta osuus kasvaa nopeasti etenkin ohjelmistokehityksessä. Koodausagentit ovat arkipäivää yhä useammassa suomalaisessa ohjelmistotalossa, ja monessa yrityksessä agentit pääsevät jo testiympäristöihin. Siirtymä testiympäristöistä tuotantoon on lyhyt askel. Cloud Security Alliancen tutkimuksen mukaan 78 prosenttia organisaatioista ei ole lainkaan määritellyt käytäntöjä ei-inhimillisten identiteettien hallintaan.

Käytännössä AWS:n oppi tiivistyy kolmeen periaatteeseen: tekoälyagentille annetaan tuotantoympäristössä vain välttämättömät vähimmäisoikeudet, jokainen kriittinen muutos vaatii toisen ihmisen hyväksynnän, ja agentin tekemien muutosten pitää olla peruutettavissa.

Amazonin tapaus ei ollut katastrofi. Cost Explorer oli poissa käytöstä yhdellä alueella, eikä yksikään asiakas ilmeisesti ottanut yhteyttä tukeen. Mutta samoilla periaatteilla – agentti, jolla on liikaa oikeuksia ja liian vähän valvontaa – seuraava katko voi osua kriittisempään palveluun. Agentit tulevat osaksi tuotantoympäristöjä joka tapauksessa. Ratkaisevaa on, annetaanko niille avaimet koko taloon vai vain niihin huoneisiin, joihin ne oikeasti tarvitsevat pääsyn.