Nvidia myöntää: pelkkä GPU ei riitä
Nvidia on hallinnut tekoälysirujen markkinoita vuosikausia, mutta joulukuussa 2025 yhtiö teki liikkeen, joka paljasti GPU-arkkitehtuurin rajat. Nvidia lisensoi 20 miljardilla dollarilla Groq-nimisen startup-yrityksen kehittämän siruteknologian – piirin, joka on suunniteltu alusta asti tekoälypäättelyä varten. Kauppa on Nvidian historian suurin.
Groqin perustaja ja toimitusjohtaja Jonathan Ross sekä yhtiön presidentti Sunny Madra siirtyivät Nvidian palvelukseen osana sopimusta. Ross tunnetaan siitä, että hän suunnitteli aikoinaan Googlen TPU-piirin eli tekoälykiihdyttimen, joka uudisti yhtiön sisäistä koneoppimista.
Miksi Nvidia tarvitsee toisen yhtiön teknologiaa? Vastaus liittyy siihen, miten tekoäly oikeastaan toimii käytännössä.
Päättely on eri laji kuin koulutus
Tekoälymallien elinkaari jakautuu kahteen vaiheeseen: koulutukseen ja päättelyyn. Koulutus on raskas kertaponnistus, jossa malli oppii valtavasta datamäärästä. Päättely tapahtuu joka kerta, kun käyttäjä lähettää kysymyksen ChatGPT:lle tai pyytää tekoälyltä koodia – malli tuottaa vastauksen koulutetun tietonsa pohjalta.
GPU:t ovat ylivertaisia koulutuksessa, koska ne pystyvät käsittelemään tuhansia laskutoimituksia samanaikaisesti. Päättelyssä tilanne on toinen. Tekstin tuottaminen on luonteeltaan peräkkäistä, sillä jokainen sana riippuu edellisestä. GPU:iden laskentakapasiteetista suuri osa jää käyttämättä, ja tyypillinen hyödyntämisaste päättelyssä on vain 30–40 prosenttia.
Groqin kehittämä LPU eli Language Processing Unit on suunniteltu juuri tähän ongelmaan. Sen arkkitehtuuri perustuu deterministiseen liukuhihnamalliin, jossa kääntäjä aikatauluttaa jokaisen operaation etukäteen. Sirulla on satoja megatavuja SRAM-muistia suoraan piirillä, mikä poistaa tarpeen hakea tietoa hitaasta ulkoisesta muistista. Tulos: lähes täysi laskentakapasiteetin hyödyntäminen ja jopa kymmenkertainen energiatehokkuus GPU:ihin verrattuna.
Energiankulutuksen ero on konkreettinen. Toimiala-arvioiden mukaan LPU kuluttaa 1–3 joulea per tokeni, kun GPU:illa vastaava luku on 10–30 joulea. Datakeskusten energiankulutus on yksi tekoälyalan polttavimmista ongelmista, ja kymmenkertainen parannus yhdessä avainkomponentissa muuttaisi koko alan kustannusrakennetta.
Ero näkyy käytännössä myös nopeudessa. Groqin LPU tuotti riippumattomissa testeissä keskimäärin 185 tokenia sekunnissa, kun kilpailevat GPU-pohjaiset palvelut jäivät 10–62 tokeniin. Spekulatiivisella dekoodauksella Groq ylitti 1 660 tokenia sekunnissa Metan Llama 3 70B -mallilla – noin kahdeksan kertaa nopeammin kuin optimoidut GPU-toteutukset.
Uusi siru esitellään GTC-konferenssissa
Nvidia esittelee Groq-teknologiaan pohjautuvan päättelyprosessorin GTC-konferenssissa San Josessa 16.–19. maaliskuuta. Samalla yhtiö aikoo julkistaa LPX-nimisen räkkiarkkitehtuurin, joka sisältää 256 LPU-piiriä yhdessä palvelinräkissä – neljä kertaa enemmän kuin ensimmäisessä sukupolvessa.
LPX hyödyntää Groqin RealScale-verkkoa, jossa sirut yhdistyvät toisiinsa suoraan ilman erillisiä kytkimiä. Arkkitehtuuri mahdollistaa sen, että jopa 576 LPU:ta voi toimia yhtenäisenä muistiavaruutena. Se tekee järjestelmästä tehokkaan erityisesti suurille kielimalleille ja niin sanotuille Mixture-of-Experts-malleille.
OpenAI on saanut uuteen siruun varhaisen pääsyn ja sitoutunut yhdeksi ensimmäisistä asiakkaista. Yhtiö aikoo käyttää teknologiaa Codex-ohjelmointityökalunsa voimanlähteenä.
“Jensen Huang on pitkään väittänyt nykyisten tuotteiden riittävän päättelytyökuormiin. Nyt kilpailupaineen alla Nvidia paljastaa tehokkaamman arkkitehtuurin.”
20 miljardin hinta ja sen merkitys
Googlen ja Amazonin kaltaiset teknologiajätit ovat kehittäneet omia päättelysiruja, ja Nvidia on vaarassa menettää osuuttaan nopeasti kasvavasta markkinasegmentistä. Päättelyn osuus tekoälyn kokonaistyökuormasta kasvaa jatkuvasti, sillä koulutus on kertaluontoista mutta päättely jatkuvaa. Jatkuvassa käytössä energiatehokkuus ratkaisee.
Kaupan rakenne kertoo Nvidian strategiasta. Yhtiö ei ostanut Groqia kokonaan, vaan lisensoi teknologian ei-yksinoikeudella. Groq jatkaa itsenäisenä Simon Edwardsin johdolla, ja sen pilvipalvelu GroqCloud toimii edelleen. Nvidia sai käyttöönsä siruarkkitehtuurin ja avainhenkilöt, mutta Groq säilytti vapautensa myydä teknologiaansa myös muille.
Tavalliselle tekoälyn käyttäjälle ja yrityksille kehitys lupaa konkreettista hyötyä: päättelykustannukset voivat laskea merkittävästi lähivuosina. Energiatehokkaampi päättely tarkoittaa halvempia rajapintakutsuja, mikä madaltaa kynnystä integroida tekoälyä sovelluksiin ja palveluihin. Suomessa datakeskusten energiakustannukset ovat keskeinen kilpailutekijä, ja tehokkaammilla siruilla olisi suora vaikutus alan kannattavuuteen.
