OpenAI osti agenttiensa turvamiehen

OpenAI ilmoitti sunnuntaina ostavansa Promptfoon, avoimen lähdekoodin turvastartupin, joka on erikoistunut tekoälyjärjestelmien haavoittuvuuksien testaamiseen. Kaupan taustalla on kriittinen kysymys, jota yhä useampi teknologiajohtaja joutuu pohtimaan: kuka valvoo tekoälyagentteja, kun ne saavat yhä enemmän itsenäistä toimivaltaa yrityksissä?

Promptfoon perustivat heinäkuussa 2024 Ian Webster, entinen Discordin insinöörijohtaja, ja Michael D'Angelo, Smile Identityn teknologiajohtaja. Vajaassa kahdessa vuodessa San Franciscon startupista kasvoi työkalu, jota käyttää yli 127 Fortune 500 -yritystä ja yli 300 000 kehittäjää ympäri maailman.

Yhtiö ehti kerätä yhteensä 23 miljoonan dollarin rahoituksen, josta valtaosa tuli Insight Partnersin johtamalta A-sarjan kierrokselta heinäkuussa 2025. Kauppahintaa ei julkistettu.

Punainen tiimi tekoälylle

Promptfoon ydintuote on komentorivityökalu ja kirjasto, jolla organisaatiot testaavat tekoälyjärjestelmiään ennen käyttöönottoa. Kyse on niin kutsutusta punaisesta tiimityöstä: järjestelmää pommitetaan simuloiduilla hyökkäyksillä, jotta haavoittuvuudet löytyvät ennen kuin oikeat hyökkääjät ehtivät paikalle. Työkalu kattaa yli 50 haavoittuvuustyyppiä.

Keskeisimpiä ovat promptin injektiot, joissa hyökkääjä ujuttaa tekoälylle piilotettuja ohjeita alkuperäisten rajoitusten ohi. Yksinkertaisimmillaan hyökkäys toimii niin, että verkkosivulle tai dokumenttiin piilotetaan teksti, jonka agentti lukee osana normaalia tiedonhakuaan – ja joka saa sen unohtamaan alkuperäiset rajoituksensa. Hyökkääjän ei tarvitse murtaa mitään järjestelmää teknisesti, vaan riittää että hän puhuu agentin kieltä.

Toinen vakava uhka ovat tietovuodot. Agentti saattaa vahingossa paljastaa luottamuksellista tietoa, jos sen käyttöoikeuksia ei ole rajattu huolellisesti. Kolmas on työkalujen väärinkäyttö: agentti, jolla on pääsy yrityksen järjestelmiin, voi suorittaa toimenpiteitä joita sen ei koskaan pitäisi tehdä.

Uhkat eivät ole teoreettisia. Yritykset siirtyvät yksinkertaisista chatboteista kohti itsenäisiä agentteja, jotka ketjuttavat toimintoja ja tekevät päätöksiä ilman jatkuvaa ihmisvalvontaa. Chatbot joka antaa väärän vastauksen on harmillinen. Agentti jolla on pääsy tietokantaan, sähköpostiin ja maksujärjestelmiin on aivan eri asia.

Turvallisuus rakennetaan alustaan

OpenAI aikoo integroida Promptfoon teknologian suoraan Frontier-alustaansa. Frontier on OpenAI:n yritysalusta, jonka kautta organisaatiot rakentavat ja operoivat tekoälypohjaisia työtovereita – agentteja jotka hoitavat monivaiheisia tehtäviä itsenäisesti. Integraation myötä alusta saa automaattisen turvallisuustestauksen, reaaliaikaiset haavoittuvuusskannaukset sekä raportointi- ja jäljitettävyystyökalut sääntelyn vaatimuksia varten.

Päätös upottaa turvallisuustestaus kehitysalustaan on strategisesti merkittävä. Yritykset eivät joudu enää hankkimaan erillisiä turvatyökaluja agenteilleen, vaan testaus kulkee mukana kehitysprosessissa alusta alkaen. OpenAI lupasi samalla jatkavansa Promptfoon avoimen lähdekoodin projektin kehittämistä, mikä tarkoittaa että pienemmätkin toimijat pääsevät hyötymään työkaluista.

Suomessakin herätty agenttien riskeihin

Agenttiturvallisuus puhuttaa myös kotimaassa. Traficom ja Huoltovarmuuskeskus julkaisivat alkuvuodesta 2026 selvityksen tekoälyagenttien kyberturvallisuudesta. Selvityksen ydinviesti on selkeä: agenttien potentiaali piilee niille annetuissa käyttöoikeuksissa, ja juuri ne tekevät niistä myös riskialttiita. Traficomin mukaan yksi suurimmista uhista on, että tekoäly saa organisaatiossa liikaa valtuuksia ja liian vähän valvontaa.

Suomi sijoittuu EU:ssa neljänneksi tekoälyn käyttöönotossa, ja yli puolet suomalaisista yrityksistä hyödyntää jo tekoälyä jossakin muodossa. Silti vain 17 prosentilla on kirjallinen tekoälystrategia. Turvallisuusstrategioiden osalta vastaava luku on todennäköisesti vielä pienempi.

OpenAI:n Promptfoo-kauppa kertoo konkreettisesti, mihin ala on menossa: turvallisuus rakennetaan suoraan kehitysalustoihin eikä hoideta jälkikäteen. Suomalaisille yrityksille, jotka suunnittelevat tekoälyagenttien käyttöönottoa, se tarkoittaa yhtä asiaa – turvallisuustestaus on perusedellytys, ei valinnainen lisäosa.