Satya Nadella sanoi jo viime syksynä suoraan, ettei Microsoftin pullonkaula ole piirien saatavuus. Ongelma on se, ettei niitä ole mihin kytkeä. Kommentti kuulosti silloin nöyrältä realismilta keskellä tekoälyhuumaa. Nyt se kuulostaa hieman toisenlaiselta.
The Guardian kertoi maanantaina nähneensä Microsoftin sisäisiä asiakirjoja, joiden mukaan yhtiöllä on asennettuna 2,2 miljoonaa tekoälypiiriä. Lehti vertasi lukua siihen datakeskuskapasiteettiin, josta Microsoft on julkisesti puhunut, ja päätyi arvioon, jonka mukaan piirejä pitäisi olla noin 6,4 miljoonaa. Ero on lähes kolminkertainen.
Microsoft on kertonut investoineensa tekoälyinfrastruktuuriin 280 miljardia dollaria vuodesta 2022 ja lisänneensä kahdessa vuodessa viisi gigawattia datakeskuskapasiteettia. Vuoden 2024 sisäisessä esityksessä yhtiö kertoi lehden mukaan, että viisi gigawattia oli jo asennettuna. Yhteensä kymmenen gigawattia. Siitä laskelma lähtee liikkeelle.
Nimettömänä esiintynyt Nvidia-analyytikko kommentoi lehdelle piirimäärää lyhyesti: ”Ne ovat minusta matalia. Vähemmän kuin odotin Microsoftilla olevan.” Vertailukohtaa antaa Nvidian oma maaliskuinen ilmoitus, jonka mukaan sen neljä suurinta asiakasta olivat tilanneet yhteensä 3,6 miljoonaa Blackwell-piiriä.
“Jos et pysty siihen, sinulla voi tosiasiassa olla kasa piirejä varastossa, joita en saa kytkettyä. Itse asiassa se on minun ongelmani tänään. Kyse ei ole piirien saatavuudesta. Kyse on siitä, ettei minulla ole lämpimiä kuoria mihin kytkeä.”
”Lämmin kuori” on kiinteistöalan termi. Se tarkoittaa valmista rakennusta, johon on vedetty sähkö ja jäähdytys ja jonne palvelintelineet voi kävellä sisään asentamaan. Nadellan mukaan niitä ei ole tarpeeksi. Piirejä on.
Microsoft kiistää laskelman muttei kerro mistä kohtaa
Yhtiön tiedottaja vastasi lehdelle näin: ”Microsoft ei raportoi yksittäisten piirien määristä tekoälyinfrastruktuurissaan. Arviot, jotka Guardian on jakanut kanssamme, ovat epätarkkoja ja tekevät vääriä johtopäätöksiä virheellisistä oletuksista.” Kysyttäessä yhtiö ei kertonut, mitkä oletukset ovat virheellisiä.
Kiisto ansaitsee tulla otetuksi vakavasti, koska laskelmassa on aitoja heikkoja kohtia. Se nojaa oletukseen piirien tehonkulutuksesta, eikä kukaan ulkopuolinen tiedä Microsoftin piirivalikoiman tarkkaa koostumusta. Kalifornian yliopiston Riversiden professori Shaolei Ren, joka kävi laskelmat lehden kanssa läpi, muotoili asian varovaisesti.
”Omien mittareidensa mukaan Microsoft voi olla oikeassa. Mutta ei ole selvää, mitä he tarkoittavat sanoessaan lisänneensä datakeskuskapasiteettia. He antavat liian vähän kontekstia”, Ren sanoi lehdelle. Hän huomautti myös, että kestävyysraportit tarkastaa ulkopuolinen taho ja että ne ovat siksi uskottavampia kuin lehdistötiedotteet.
Renin toinen huomio osuu koko kiistan ytimeen. ”Yhden gigawatin tehokapasiteetin varmistaminen tai ilmoittaminen yhden vuosineljänneksen aikana voi olla paperilla uskottavaa. Mutta sen saaminen verkkoon ja tosiasiallisesti laskentakäyttöön saman neljänneksen aikana olisi huomattavasti vaikeampaa.” Kapasiteetti voi siis olla sekä ilmoitettu että olematon, ilman että kukaan valehtelee.
Näin 6,4 miljoonaa laskettiin – ja mikä siinä ontuu
The Guardian lähti kymmenestä gigawatista, oletti että noin 80 prosenttia tehosta menee itse laskentaan ja loput jäähdytykseen ja muuhun oheiskulutukseen, jakoi jäljelle jäävät kahdeksan gigawattia palvelintelineen noin kymmenen kilowatin kulutuksella ja päätyi 800 000 palvelimeen eli 6,4 miljoonaan piiriin. Laskelman tarkistivat Rhode Islandin yliopiston professori Abdeltawab Hendawi ja Shaolei Ren.
Epävarmuudet: piirin tehonkulutus vaihtelee sukupolvittain, jäähdytyksen osuus vaihtelee konesaleittain, eikä ”asennetun kapasiteetin” määritelmä ole yhtenäinen. Myöskään sisäisten asiakirjojen tarkka ajankohta ei käy jutusta ilmi, mikä on tämän uutisen suurin yksittäinen aukko. Luku 6,4 miljoonaa on suuruusluokka-arvio, ei mittaustulos.
Miksi tämä ei ole vain sijoittajien murhe
Markkina reagoi nopeasti. Microsoftin osake laski maanantaina noin kolme prosenttia, edellisen päivän 495 dollarista noin 480 dollariin. Yhtiön osakkeita on käytännössä jokaisen suomalaisen työeläkevakuutetun salkussa indeksirahastojen kautta, joten kolmen prosentin liike suurimmassa teknologiayhtiössä ei ole abstrakti asia.
Konkreettisempi vaikutus näkyy laskun loppusummassa. Jos ilmoitetusta kapasiteetista osa on paperikapasiteettia, se tarkoittaa että tekoälylaskentaa on tarjolla vähemmän kuin markkinointimateriaali antaa ymmärtää. Yritysasiakkaalle se näkyy jonoina, käyttörajoina ja siinä, ettei Azuren tehokkaimpia piirejä saa haluamaltaan alueelta. Suomalaiselle ohjelmistotalolle, joka rakentaa palvelunsa pilven varaan, kyse on ihan tavallisesta toimitusvarmuudesta.
Ja jos pullonkaula on rakentaminen eikä piirit, hinta ei laske sillä että Nvidia valmistaa enemmän. Se laskee vasta kun sähköä ja rakennuksia on riittävästi.
