Google Research julkaisi teoreettisen työn, joka yrittää selittää, miksi kuvantuottomallit kykenevät luomaan jotain uutta sen sijaan, että ne toistaisivat opetusaineistoaan sellaisenaan. Tutkija Zhengdao Chenin mukaan mallien luovuus ei synny satunnaisuudesta vaan seuraa suoraan siitä, miten neuroverkot oppivat matemaattisia laskujaan.
Väite haastaa yleisen käsityksen. Kuvamalleja on syytetty siitä, että ne vain sekoittavat ja kopioivat verkosta kaavittua materiaalia. Chenin analyysi kääntää asetelman: sama piirre, joka estää mallia oppimasta opetusdataa täydellisesti, on samalla sen luovuuden lähde.
Mikä ohjaa kuvan syntyä
Kuvamalli, kuten Stable Diffusion tai Googlen Imagen, rakentaa kuvan poistamalla kohinaa vaihe vaiheelta. Prosessia ohjaa niin sanottu score-funktio, joka kertoo, mihin suuntaan kohinaista kuvaa pitää työntää, jotta se muistuttaisi yhä enemmän oikeaa kuvaa. Täydellinen score-funktio veisi jokaisen kuvan tarkalleen johonkin opetusaineiston esimerkkiin.
Käytännössä verkko ei koskaan opi funktiota täydellisesti. Painojen kutistaminen ja muut säännönmukaistuksen keinot pakottavat verkon oppimaan pehmennetyn, sileämmän version funktiosta. Juuri tämä pehmennys ratkaisee.
Terävät reunat pyöristyvät
Chen havainnollistaa ilmiön yksiulotteisella esimerkillä. Täydellisessä score-funktiossa on jyrkkiä hyppäyksiä kahden opetuspisteen puolivälissä. Säännönmukaistettu verkko oppii näiden hyppäysten tilalle loivan rinteen. Kun malli sitten tuottaa uutta näytettä, kohinasta puhdistuva hiukkanen ei enää päädy tarkalleen johonkin opetuspisteeseen vaan pysähtyy niiden väliin, alueelle jota kukaan ei suoraan opettanut.
Tämä väliin jäävä alue on se, mistä uudet kuvat syntyvät. Malli interpoloi eli täyttää opetusesimerkkien välisen tilan uskottavilla vaihtoehdoilla.
“Diffuusiomallin luovuus on matemaattinen seuraus siitä, että neuroverkko oppii pehmennetyn version score-funktiosta ja ajautuu interpoloimaan opetuspisteiden välillä.”
Miksi kuvat pysyvät uskottavina
Moniulotteisessa tapauksessa pehmennyksellä on hienovaraisempi vaikutus. Opetuskuvat asettuvat matemaattisesti tietylle moniulotteiselle pinnalle, monistolle, joka kuvaa millaisia oikeat kuvat ovat. Score-funktion pehmennys hidastaa hiukkasen liikettä tätä pintaa pitkin mutta säilyttää liikkeen kohti pintaa.
Käytännössä malli pysyy uskollisena sille, miltä oikea kuva näyttää, mutta liikkuu vapaasti pinnan suuntaisesti. Näin syntyy kuva, joka on samaan aikaan uskottava ja uusi. Chenin mukaan juuri tämä tasapaino selittää, miksi mallit tuottavat tunnistettavia mutta ennennäkemättömiä lopputuloksia.
Miksi tällä on väliä
Kysymys mallien luovuudesta ei ole vain akateeminen. Tekijänoikeuskiistoissa yksi keskeinen argumentti on ollut, että kuvamallit kopioivat suojattua materiaalia. Jos luovuus todella syntyy interpolaatiosta eikä kopioinnista, se antaa uutta teoreettista pohjaa keskustelulle siitä, milloin malli tuottaa jotain aidosti uutta ja milloin se toistaa opetusdataansa.
Tavalliselle käyttäjälle tulos tarkoittaa konkreettisempaa ymmärrystä siitä, mitä kuvageneraattori tekee piirtäessään pyynnön pohjalta jotain ennennäkemätöntä. Kehittäjille löytyy työkalu: jos luovuutta voi säätää säännönmukaistuksen kautta, mallin uutuuden ja tarkkuuden suhdetta voi periaatteessa hallita tietoisesti. Chenin työ ei silti vastaa siihen, kuinka hyvin sama teoria pätee jättimäisiin tuotantomalleihin, sillä analyysi nojaa yksinkertaistettuihin tapauksiin.
Sanasto
Diffuusiomalli
Kuvantuottotekniikka, jossa tekoäly aloittaa satunnaisesta kohinasta ja poistaa sitä vaihe vaiheelta, kunnes jäljelle jää selkeä kuva. Stable Diffusion ja Imagen toimivat näin.
Score-funktio
Kuvamallin sisäinen ohjenuora, joka kertoo jokaisessa vaiheessa, mihin suuntaan kohinaista kuvaa pitää muuttaa, jotta se muistuttaisi yhä enemmän oikeaa kuvaa.
Monisto
Matemaattinen pinta, jolle kaikki uskottavat kuvat asettuvat. Kun malli pysyy tällä pinnalla, tulos näyttää aidolta, vaikka kuvaa ei olisi koskaan ennen nähty.
Tutkimus lyhyesti
Työ perustuu Zhengdao Chenin artikkeliin "On the Interpolation Effect of Score Smoothing in Diffusion Models", joka esitellään ICLR 2026 -konferenssissa. Analyysi on teoreettinen ja käyttää yksinkertaistettuja esimerkkejä, joten se ei suoraan mittaa suurten tuotantomallien käytöstä.
Viikoittainen uutiskirje
Tule firmasi fiksuimmaksi AI-osaajaksi
Yksi uutiskirje kerrallaan. Kokoamme viikon tärkeimmät tekoälyuutiset suomeksi ja kerromme, mitä ne tarkoittavat sinun työsi kannalta. Luet sen kahvitauolla.
