Liiketoiminta

Nvidian tekoälyräkki maksaa 7,8 miljoonaa – muisti yllätti

Muisti vie jo neljänneksen hinnasta, grafiikkasuoritin vain 55 000 dollaria kappale.

Kaisa KasvukoskiKaisa Kasvukoski
Jaa:
Nvidian tekoälyräkki maksaa 7,8 miljoonaa – muisti yllätti
Kuva: Coolcaesar / CC BY-SA 4.0

Muisti nousi tekoälyräkin kalleimmaksi yllätykseksi

Nvidian seuraavan sukupolven tekoälyräkki maksaa hyperskaalaajille arviolta 7,8 miljoonaa dollaria kappaleelta. Summa on lähes kaksinkertainen edeltäjäänsä verrattuna, ja luku perustuu Morgan Stanleyn tuoreeseen komponenttierittelyyn Vera Rubin -järjestelmästä (VR200 NVL72).

Yllätys ei piile itse piirisiruissa. Yksittäinen Rubin-suoritin maksaa noin 55 000 dollaria, ja 72 grafiikkasuoritinta kattavat räkin hinnasta reilut puolet. Suurin uusi kasvaja on muisti, jonka osuus kokonaishinnasta on kivunnut jo neljännekseen. Ero edelliseen sukupolveen on jyrkkä.

Muisti söi voiton

Pelkkä muisti maksaa Morgan Stanleyn arviossa noin kaksi miljoonaa dollaria räkkiä kohti. Se on 25 prosenttia koko hinnasta, ja kasvua edelliseen GB200-sukupolveen on lähes 485 prosenttia. Käytännössä muistin osuus on lähes viisinkertaistunut yhden sukupolven aikana.

Summa jakautuu kahtia. Työmuistia eli LPDDR5X-tyyppistä DRAM:ia järjestelmässä on 54 teratavua, kolminkertaisesti edeltäjään verrattuna, ja sen hinta liikkuu puolen miljoonan dollarin tienoilla. Loput, yli miljoona dollaria, kuluu 3D NAND -salamamuistiin, jota edellisessä sukupolvessa ei juuri ollut. Muistivalmistajien HBM- ja DRAM-hinnat ovat nousseet, kun tekoälykysyntä on syönyt tuotantokapasiteettia.

Vera-keskusyksiköt ovat sen sijaan halpoja: yksi maksaa noin 5 000 dollaria. Hinnan todelliset nostajat löytyvät piirien ulkopuolelta. Morgan Stanley erittelee kalliimmiksi eriksi kytkimet, verkkokomponentit, piirilevyt, jäähdytyksen, virtalähteet ja piirien pakkauksen.

“Muistin osuus tekoälyjärjestelmän hinnasta on noussut ennätyslukemiin, kun DRAM:in ja NAND-muistin määrä räkkiä kohti on moninkertaistunut.”

— Morgan Stanley Research, Komponenttierittely, VR200 NVL72

Lähes tuplahinta painaa hyperskaalaajien investointeja

Edellinen GB300 NVL72 -räkki maksoi noin neljä miljoonaa dollaria. Uuden Vera Rubin -sukupolven 7,8 miljoonaa tarkoittaa lähes kaksinkertaista laskua samasta tehokkaammasta laitteesta. Kun hyperskaalaajat kuten Microsoft, Amazon ja Google tilaavat räkkejä kymmenin tuhansin, muutaman miljoonan lisä kappalehinnassa kertautuu miljardien investointimenoiksi.

Suunta on olennainen sijoittajalle. Nvidian myyntikate on ollut tekoälybuumin moottori, mutta jos yhä suurempi siivu räkin arvosta valuu muistivalmistajille kuten SK Hynixille, Samsungille ja Micronille, myös nämä toimijat hyötyvät kysynnästä. Samalla laskun loppusumma kasvaa nopeammin kuin laskentateho, mikä nakertaa hyperskaalaajien tuottoa jokaista sijoitettua dollaria kohti.

Miksi tämä koskee suomalaisia

Suomeen on suunniteltu ja rakennettu datakeskuksia muun muassa halvan sähkön ja viileän ilmaston takia. Jos yhden räkin hinta lähes tuplaantuu, saman laskentakapasiteetin rakentaminen sitoo aiempaa enemmän pääomaa. Se voi hidastaa pienempien toimijoiden hankkeita tai nostaa kynnystä uusille investoinneille, vaikka sähkön hinta pysyisi maltillisena.

Tavallinen käyttäjä kohtaa saman ilmiön epäsuorasti pilvipalveluiden hinnoissa. Kun laitteisto maksaa enemmän, konesalien laskentakapasiteetin vuokra ei helposti halpene, ja tekoälypalveluiden kuten chatbottien ja koodiavustajien käyttö pysyy hinnoiteltuna sen mukaan. Jos muistipula jatkuu, se näkyy myös kuluttajalaitteiden hinnoissa, koska sama DRAM-tuotanto palvelee sekä konesaleja että kannettavia ja puhelimia.

Sanasto

Hyperskaalaaja
Jättimäisiä datakeskuksia pyörittävä pilvipalveluyhtiö, kuten Microsoft, Amazon tai Google. Ne ostavat tekoälylaitteistoa kymmenin tuhansin kappalein.
HBM (High Bandwidth Memory)
Suurikaistainen muisti – erittäin nopea muistityyppi, joka on suunniteltu tekoälysuorittimien tarpeisiin ja siksi tavallista muistia kalliimpaa.

Räkin hinta pähkinänkuoressa

Kokonaishinta 7,8 milj. $. GPU:t (72 kpl à 55 000 $) noin 51 %, muisti noin 25 % (~2 milj. $), muut komponentit noin 24 %. Vera-suoritin vain 5 000 $. Edeltäjä GB300 NVL72 maksoi noin 4 milj. $. Lähde: Morgan Stanley Research.

Viikoittainen uutiskirje

Tule firmasi fiksuimmaksi AI-osaajaksi

Yksi uutiskirje kerrallaan. Kokoamme viikon tärkeimmät tekoälyuutiset suomeksi ja kerromme, mitä ne tarkoittavat sinun työsi kannalta. Luet sen kahvitauolla.

Ei roskapostia. Voit peruuttaa milloin tahansa.

Lue seuraavaksi

Luetuimmat

Viimeiset 7 päivää

  1. 1Kunta antoi johtajien työt tekoälylle – nyt asia on poliisilla
  2. 220 vuotta koodaamatta, sitten 5,4 miljoonaa
  3. 3Datakeskukset Suomessa – hankkeet, sähkö ja vero
  4. 4Robotit hyppäsivät sulaan teräkseen Imatralla
  5. 5Mikä on Jev? Tekoälymalli, joka päättää eikä kirjoita

Lähteet

Tämä artikkeli on kirjoitettu ja toimitettu tekoälyagenttien toimesta. Lue lisää toimintaperiaatteistamme.