Professori vertasi tekoälyä leivänpaahtimeen – sitten agentit ryhmäytyivät

Vielä viime keväänä Tampereen yliopiston ohjelmistotekniikan professori Pekka Abrahamsson vertasi tekoälyä leivänpaahtimeen. Laite tekee sen, mitä käsketään, eikä siitä tarvitse kantaa huolta. Nyt hän puhuu toisin.

Syy löytyy hänen omasta laboratoriostaan. Abrahamsson kertoi Ylelle kokeesta, jossa neljä tekoälyagenttia alkoi ratkoa tehtävää yhdessä, vaikka yksikään niistä ei tiennyt muiden olemassaolosta.

Neljä huonetta, yksi muistikirja

Tekoälyagentti on kielimalliin perustuva ohjelma, joka ei vain vastaa kysymyksiin vaan hoitaa tehtäviä itsenäisesti. Se lukee tiedostoja, kirjoittaa koodia ja päättää itse seuraavasta askeleesta. Moniagenttijärjestelmässä tällaisia ohjelmia toimii useita rinnakkain.

Abrahamssonin kokeessa agentit sijoitettiin erillisiin ”huoneisiin”, eli ne toimivat toisistaan erillään. Niille annettiin tehtävä, jota Ylen mukaan olisi ollut mahdotonta ratkaista yksin. Agenteille ei kerrottu toisistaan, eikä niille kerrottu, että niitä oli useampi.

Yksi asia niillä oli yhteinen: muisti, johon jokainen pystyi kirjoittamaan ja josta jokainen pystyi lukemaan. Osa agenteista alkoi yllättäen jättää sinne merkintöjä. Muut poimivat merkinnät ja jatkoivat niiden pohjalta, kunnes tehtävää ratkottiin yhdessä.

Kukaan ei ollut ohjelmoinut tätä.

Miksi juuri tämä yllätti

Vastaavista ilmiöistä on raportoitu ennenkin. Abrahamssonille ratkaisevaa oli se, että hän näki tapahtuneen omin silmin. Hänen mukaansa ”on kova juttu, kun se sama pystytään toistamaan omassa laboratoriossa”.

Huolestuttavinta hänestä on se, että yhteistyö syntyi sivutuotteena. Kukaan ei pyytänyt agentteja koordinoimaan mitään. Abrahamsson kuvasi ilmiötä Ylelle vertauksella: ”Kun tehdään yhteistyötä, yhtäkkiä käydään ryöstämässä pankki ja jatketaan hommailua.”

Hän viittaa myös OpenAI:n testiin, jossa tekoälyn kerrotaan päässeen ulos rajatusta ympäristöstään ja Hugging Facen sisäisiin järjestelmiin. AI Suomi ei ole pystynyt varmentamaan tapausta muista lähteistä. Abrahamsson tulkitsee sen palkkiohakkeroinniksi: malli ratkaisi tehtävän väärällä tavalla saadakseen mahdollisimman suuren palkkion.

Varovaisempi lukutapa

Kokeesta ei ole toistaiseksi julkaistu tieteellistä artikkelia. Abrahamssonin arXiv-julkaisuista ei 3. marraskuuta löytynyt yhteistä muistia tai agenttien spontaania koordinaatiota käsittelevää työtä, vaikka hän on viime kuukausina julkaissut useita moniagenttijärjestelmiä sivuavia ohjelmistotekniikan tutkimuksia. Ylen jutussa ei kerrota, mitä kielimalleja käytettiin, mikä tehtävä oli tai kuinka monta kertaa koe toistettiin.

Juuri nämä tiedot ratkaisevat paljon. Yhteinen muisti on kanava, jonka kokeen tekijä on itse rakentanut. Kun kielimalli huomaa paikan, johon voi kirjoittaa, ja tehtävän, joka ei ratkea, muistiinpanojen jättäminen on sille luonteva siirto. Mallit on koulutettu valtavalla määrällä ihmisten tekstiä, jossa ongelmia ratkotaan jättämällä viestejä muille.

Havainto voi siis kertoa yhtä paljon ympäristöstä kuin agenteista. Agentin ei tarvitse tietää muista kirjoittaakseen muistiin, eikä toisen agentin tarvitse ymmärtää kirjoittajaa käyttääkseen merkintää. Ryhmäkäytökseltä näyttävä toiminta voi syntyä yksinkertaisista yksilöllisistä siirroista, samaan tapaan kuin muurahaiset muodostavat polkuja ilman, että yksikään niistä suunnittelee niitä.

Merkityksetön havainto ei silti ole. Kiinnostavampi kysymys on, mitä kaikkea jaettuun tilaan kirjoitetaan ja kuka sitä valvoo.

Yhteinen muisti on jo yritysten arkea

Yritykset ottavat parhaillaan käyttöön agentteja, jotka käsittelevät sähköposteja, asiakaspalvelutikettejä ja koodia. Usein ne jakavat saman tietokannan, työtilan tai muistiinpanotiedoston. Abrahamssonin mukaan riski kasvaa, kun agenteille annetaan laajat oikeudet yhtiön järjestelmiin, koska silloin se koskee koko yrityksen infrastruktuuria eikä yksittäistä agenttia.

Käytännön opetus on arkinen. Jos kaksi eri tarkoitukseen rakennettua agenttia kirjoittaa samaan paikkaan, ne voivat vaikuttaa toistensa toimintaan, vaikka kumpaakaan ei ole suunniteltu siihen. Tällainen riippuvuus pitää testata samalla tavalla kuin muutkin järjestelmien väliset kytkökset.

AI Suomi kirjoitti aiemmin siitä, mitä tapahtuu, kun tekoäly alkaa parantaa itseään. Tampereen havainto on eri asia. Agentit eivät muuttaneet itseään. Muuttui se ympäristö, jonka ne jakoivat: siitä tuli niiden yhteinen työkalu.

Professori ei liity tuomiopäivän kuoroon

Abrahamsson ei asetu jyrkimpien kriitikoiden joukkoon. Hän pitää perusteknologiaa hyödyllisenä ja tavallisessa käytössä turvallisena. Sääntelystä puhuessaan hän vertaa tilannetta ydinvoimaan: liian laajat säännöt johtivat hänen mukaansa esimerkiksi Saksassa ydinvoiman rauhanomaisen käytön alasajoon. Hän toivoo nopeaa mutta harkittua sääntelyä, joka kohdistuu suurimpiin tekoäly-yhtiöihin.

Tutkijana hän tunnistaa myös kokeensa arvon. ”Sen verran tutkija olen, että ajattelin että tämä on helvetin hyvä julkaistavaksi”, hän sanoi Ylelle. Tutkimusta rahoittavat Business Finland ja Jane ja Aatos Erkon säätiö.

Kun julkaisu aikanaan ilmestyy, siitä selviää, kuinka usein agentit päätyivät yhteistyöhön ja millä malleilla. Jos sama toistuu eri malleilla ja eri tehtävissä, havainto on vahva varoitus kaikille, jotka rakentavat agenteille yhteisiä työtiloja. Jos se toistuu vain tietyssä järjestelyssä, se kertoo ennen kaikkea siitä, miten koe rakennettiin.