Google julkisti 3. kesäkuuta Gemma 4 -mallisarjan uuden version, 12 miljardin parametrin multimodaalisen mallin, joka käsittelee tekstin lisäksi kuvaa, ääntä ja videota. Malli on saatavilla Apache 2.0 -lisenssillä, joten sitä saa hyödyntää kaupallisesti ja muokata vapaasti.
Uudessa versiossa Google kohdistaa viestinsä kehittäjille, joilla ei ole pääsyä palvelinkeskustason rautaan. Yhtiön julkaiseman muistivaatimuksen mukaan malli pyörii 16 gigatavun keskusmuistilla varustetulla läppärillä, käytännössä M-sarjan MacBookilla tai RTX 4060 -tason näytönohjaimella. Tämä on selvä siirtymä aiemmasta Gemma 2 -perheestä, joka vaati huomattavasti enemmän muistia.
Puolet muistia, lähes sama suoritus
Vertailu samaa perhettä olevaan Gemma 4 26B -versioon on tärkein syy miksi 12B saa tällä viikolla huomiota. Google on julkaissut vertailutaulukon, jonka mukaan pienempi malli häviää MMLU-, MMMU- ja GSM8K-benchmarkeissa keskimäärin alle viisi prosenttiyksikköä. Kuvantunnistuksessa ja äänen transkriboinnissa ero on vielä pienempi.
Optimointi nojaa useaan tekniikkaan yhtä aikaa. Mallissa käytetään grouped-query attentionia, matalan resoluution KV-välimuistia ja aggressiivista painojen kvantisointia 4-bittiin asti. Kontekstin pituus on 128 000 tokenia, mikä riittää pitkien dokumenttien käsittelyyn yhdellä ajolla.
Multimodaalisuus on Googlen tärkein erottautumistekijä. Metan Llama 3.2 -perheestä löytyy vision-malli, mutta videon ymmärrys ja äänen analyysi yhdessä paketissa avointen painojen tasolla on jotain, mitä avoimessa tilassa ei ole vielä laajalti nähty.
Mitä tämä tarkoittaa Suomelle
Aalto-yliopiston ja VTT:n on-device-AI-tutkimusryhmät ovat viime vuosina keskittyneet juuri siihen kysymykseen, jonka Google nyt yrittää ratkaista valmiilla mallilla: miten ajaa kyvykästä tekoälyä paikallisesti ilman pilvipalvelua. Tutkimuksen näkökulmasta avoin multimodaalinen 12B-malli on testialusta, jota ei tarvitse kouluttaa nollasta.
Terveydenhuolto on tässä tapauksessa lupaavin yksittäinen sovellusalue. HUS:n ja Mehiläisen kaltaiset toimijat käsittelevät päivittäin potilastietoa, joka on lain mukaan pidettävä Suomessa ja jonka käsittely yleisissä pilvipalveluissa on osoittautunut hankalaksi tietosuojan näkökulmasta. Lokaalisti pyörivä multimodaalinen malli voi periaatteessa lukea röntgenkuvan, kuunnella potilaan kertomuksen ja ehdottaa hoitomerkinnän ilman, että data lähtee sairaalan verkosta.
Matka tähän on vielä pitkä. Lääkinnälliset laitteet vaativat MDR-asetuksen mukaisen sertifioinnin, eikä avoin malli täytä sitä automaattisesti. Mutta tekninen alusta on nyt olemassa, ja juuri se on muuttunut viimeisen kahdeksantoista kuukauden aikana.
Avoimuus tarkoittaa myös vastuuta
Apache 2.0 -lisenssi sallii hienosäätämisen oman datan päälle. Jos sairaala kouluttaa Gemma 4 12B -mallista oman version potilastiedon päälle, sen pitää itse vastata bias-testauksesta, vuotokokeista ja koko mallielinkaaresta. Google ei tarjoa siihen tukea samaan tapaan kuin maksullisen Vertex AI -pilvipalvelun käyttäjille.
