Googlen vuotanut siru lupaa 10× tehohyppäyksen

Sisäisistä lähteistä vuotanut lupaus

Googlen sisäpiiristä on vuotanut tieto räätälöidystä piiristä nimeltä Frozen v2. Sen kerrotaan yltävän 6–10 kertaa nykyisiä TPU-siruja parempaan energiatehokkuuteen. Jos luku pitää paikkansa, kyse olisi Googlen oman piiohjelman suurimmasta yhden sukupolven loikasta.

Tieto perustuu nimettömiin sisäisiin lähteisiin, eikä Google ole vahvistanut sirua julkisesti. Ennen kuin piiri on tuotannossa ja riippumattomasti mitattu, luvut kannattaa lukea varauksella.

Mitä 6–10-kertainen energiatehokkuus tarkoittaa

Energiatehokkuus mittaa sitä, kuinka paljon laskentaa siru tekee kulutettua wattia kohden. Käytännössä se ratkaisee, montako kyselyä palvelinsali pystyy pyörittämään samalla sähköllä ja jäähdytyksellä.

Jos Frozen v2 tekee saman työn murto-osalla energiasta, Google voisi joko ajaa moninkertaisen määrän Gemini-kyselyitä samalla sähkölaskulla tai pudottaa yksittäisen vastauksen kustannuksen selvästi alemmas. Datakeskusten sähkö ja jäähdytys ovat tekoälyn suurimpia juoksevia kuluja, joten tehohyppäys näkyisi suoraan viivan alla.

Luvun haarukka on kuitenkin leveä. 6- ja 10-kertaisen välillä on iso ero, ja lopputulos riippuu siitä, millaista mallia ja kuormaa sirulla ajetaan. Sama piiri voi loistaa yhdessä tehtävässä ja jäädä lupauksistaan toisessa.

Miksi Gemini-malleille viritetty piiri on strateginen

Frozen v2:n kerrotaan olevan suunniteltu nimenomaan Gemini-mallien ajamiseen. Yleiskäyttöisen piirin sijaan siru on viritetty juuri niihin laskutoimituksiin, joita Googlen omat mallit tekevät eniten. Tällainen räätälöinti on tapa puristaa tehoa irti silloin, kun tiedetään tarkkaan mitä ajetaan.

Strategisesti kyse on Googlen pyrkimyksestä irtautua Nvidian otteesta. Suurin osa tekoälyalasta ajaa mallejaan Nvidian grafiikkapiireillä, jotka ovat kalliita ja joista on ajoittain pulaa. Google on rakentanut omia TPU-sirujaan jo vuosia juuri siksi, ettei se olisi kilpailijansa hinnoittelun ja toimitusaikataulujen varassa.

Jos Frozen v2 lunastaa lupauksensa, Google ajaisi huippumallejaan piillä, jota kukaan muu ei saa ostaa. Se olisi kilpailuetu, jota Nvidian asiakkaat eivät voi kopioida pelkällä rahalla.

Mitä tästä seuraa tavalliselle käyttäjälle

Tekoälyn ajokustannukset eivät jää yhtiöiden sisäiseksi asiaksi. Ne näkyvät siinä, paljonko chatbotin käyttö maksaa, kuinka nopeasti vastaus tulee ja mitkä ominaisuudet ovat ilmaisia. Halvempi laskenta tarkoittaa yleensä sitä, että kehittyneempiä malleja pääsee käyttämään useampi ihminen ilman maksumuuria.

Yrityksille halvempi inferenssi voi ratkaista, kannattaako tekoälyä ylipäätään ottaa osaksi tuotetta. Moni suunnitelma kaatuu tällä hetkellä siihen, että mallien ajaminen mittakaavassa on liian kallista. Jos Google pudottaa hintaa reilusti, paine leviää koko alalle ja kilpailijoiden on seurattava perässä.

Toistaiseksi Frozen v2 on kuitenkin nimi vuotaneessa muistiossa. Seuraava kiinnostava merkki ei ole uusi tehoväite vaan hetki, jolloin Google alkaa hiljaa siirtää Gemini-liikennettä pois Nvidian raudalta. Se kertoisi enemmän kuin mikään sisäinen luku.