Yhden rivin lisäys, kaksinkertainen luova hajonta
Stanfordin, Northeasternin ja West Virginian yliopistojen tutkijat julkistivat lokakuussa 2025 menetelmän nimeltä Verbalized Sampling, joka nostaa GPT-, Claude- ja Gemini-mallien luovan hajonnan 1,6–2,1-kertaiseksi ilman yhtäkään uudelleenkoulutuskierrosta. Tutkimusryhmään kuuluu muun muassa Stanfordin tunnettu NLP-tutkija Christopher D. Manning. Tulokset palauttavat 66,8 prosenttia siitä luovuudesta, jonka aligned-mallit ovat menettäneet RLHF-hienosäädössä.
Idea on niin yksinkertainen, että se kuulostaa miltei tyhmältä. Sen sijaan että käyttäjä pyytää mallilta yhden vastauksen, mallia pyydetään listaamaan vaikkapa viisi vaihtoehtoa todennäköisyyksineen ja valitsemaan vastaus jakauman häntäpäästä. Tämä yksi rivi systeemikehotteessa avaa luovan hajonnan, jonka aligned-malli normaalisti latistaa keskiarvoon.
Miksi kielimallit ovat tylsistyneet
Tutkijat osoittavat, että ongelman juuret ovat preferenssidatassa. Kun ihmisarvioijat valitsevat malleja kouluttavissa pareittaisvertailuissa, he suosivat järjestelmällisesti tutunoloista tekstiä. Tämä tyypillisyysharha (typicality bias) kasaa mallin tuotokset kapealle alueelle, jossa kaikki vastaukset alkavat samalla tavalla ja päättyvät samalla tavalla. Lopputulos on niin sanottu mode collapse, eli moodin lukkiutuminen yhteen turvalliseen vastauspohjaan.
Verbalized Sampling kiertää ongelman pyytämällä mallia eksplisiittisesti puhumaan oma epävarmuutensa auki. Kun malli joutuu tuottamaan jakauman, se ei enää voi kollapsoida yhteen varmaan vastaukseen, vaan paljastaa, mitä vaihtoehtoja se itse asiassa pitää uskottavina.
Esimerkki Verbalized Sampling -kehotteesta
Generate 5 responses to the user query, each within a separate <response> tag. Each <response> must contain the <text> and a numeric <probability>. Sample at random from the tails of the distribution, such that the probability of each response is less than 0.10.
Suomeksi: anna viisi vastausta erillisissä lohkoissa, kunkin perään numeerinen todennäköisyys. Poimi vastaukset jakauman häntäpäästä niin, että kunkin vaihtoehdon todennäköisyys on alle 0,10.
Tulokset neljällä eri alueella
Tutkijat testasivat menetelmää luovassa kirjoittamisessa (runot, tarinat, vitsit), dialogisimulaatiossa, avoimissa kysymyksissä ja synteettisen datan generoinnissa. Ihmisarvioijat pitivät tuotoksia 25,7 prosenttia monipuolisempina kuin perinteisellä promptilla saadut. Faktatarkkuus tai turvallisuus eivät heikentyneet: kieltäytymisaste vaarallisten pyyntöjen kohdalla pysyi yli 97 prosentissa.
Yllättävin havainto on kapasiteetti-skaalautuvuus: mitä isompi malli, sitä suurempi hyöty. GPT-5- ja Claude Opus 4 -kokoluokan mallit hyötyivät noin tuplasti enemmän kuin pienemmät avoimen lähdekoodin mallit. Toisin sanoen alignment on tukahduttanut kaikkein voimakkaimmin juuri uusimpien lippulaivamallien luovuuden.
Mitä Suomi tekee prompt-tutkimuksessa
Suomalainen prompt-tutkimus on toistaiseksi kapeampaa kuin Pohjois-Amerikassa, mutta teoreettista sukulaisuutta löytyy. Aalto-yliopiston Probabilistic Machine Learning -ryhmä, joka tunnetaan ProbML-nimellä, on tehnyt vuosikymmenen työtä epävarmuuden mallintamisen parissa. Verbalized Samplingin ydin – mallin pakottaminen tuottamaan jakauma yhden pisteen sijaan – kulkee samassa traditiossa.
Finnish Center for Artificial Intelligence (FCAI), jonka emot ovat Aalto ja Helsingin yliopisto, listaa lippulaivaohjelmaansa kuuluviksi tutkimusalueet, jotka käsittelevät kielimallien luotettavuutta ja vuorovaikutusta. Lähestyin sekä FCAI:n viestintää että ProbML-ryhmää saadakseni kommentin Verbalized Samplingin merkityksestä suomalaiselle tutkimukselle. Vastausta ei ehtinyt tähän juttuun, joten jatkan haastattelupyyntöjä – kotimaisten tutkijoiden näkemys siitä, miksi alignment kapeuttaa juuri suurimpia malleja, ansaitsee oman juttunsa.
