Jane Streetin datakeskuksessa pyörii nyt palvelinräkki, jota siellä ei viikko sitten ollut. Sen toimitti kalifornialainen piirivalmistaja Etched. Samana päivänä, 18. elokuuta, Etched kertoi keränneensä 700 miljoonaa dollaria uutta rahaa. Kierroksen vetäjä oli Jane Street.
Arvostus on nyt 21 miljardia dollaria. Heinäkuun 23. päivänä yhtiö keräsi 300 miljoonaa Sequoia Capitalin johdolla, ja silloin arvo oli 10,3 miljardia. Joulukuussa se oli viisi miljardia. Nelinkertaistuminen kahdeksassa kuukaudessa, kaksinkertaistuminen neljässä viikossa.
Yhtiö ei ole julkaissut yhtään riippumatonta suorituskykymittausta. Ei MLPerf-tulosta, ei ulkopuolisen tekemää vertailua Nvidian laitteistoon. Julkinen näyttö laitteen toimivuudesta on yksi kappale tekstiä, ja sen kirjoitti ostaja.
Etchedin tiedotteessa Jane Street kertoo, mitä mieltä se on laitteesta, jonka se osti ja jonka valmistajaan se juuri sijoitti. Lausunto on annettu englanniksi.
“Testasimme piirin ja olemme tyytyväisiä varhaisiin tuloksiin. Etchedin omanlaisensa lähestymistapa päättelyyn tarjoaa sen tarkkuuden, jota tulemme tarvitsemaan vaativimpien työkuormiemme tukemiseen. Olemme innoissamme siitä, että meillä on nyt oma räkki pyörimässä datakeskuksessamme.”
Lausunnon antaja ei ole ulkopuolinen arvioija. Jane Street testasi piirin, osti sen ja johti sitten kierrosta, joka nosti myyjän arvon yli kaksinkertaiseksi. Sama tase hyötyy siitä, että laite on hyvä, ja siitä, että muutkin uskovat laitteen olevan hyvä.
Tämä ei tarkoita, etteikö piiri toimisi. Se tarkoittaa, ettei toimivuudesta ole vielä olemassa yhtään arviota, jonka antajalla ei olisi rahaa kiinni lopputuloksessa. Sijoittaja-asiakas on tekoälypiirien rahoituksessa tavallinen rakenne, ja se hämärtää sen, kuinka suuri osa kysynnästä on kaupallista ja kuinka suuri osa oman salkun tukemista.
Kaksi komponenttia, yksi tuoteperhe
Robert Wachen, Etchedin toinen perustaja ja operatiivinen johtaja, kuvasi TechCrunchille tuotteen rakenteen lyhyesti. "Päättely rakentuu kahdesta vaiheesta, prefill ja decode", hän sanoi. Ensimmäinen vaihe lukee käyttäjän syötteen ja kontekstin, toinen tuottaa vastauksen sana sanalta. Etched on tehnyt kummallekin oman ratkaisunsa: matalalla jännitteellä toimivan esikäsittelypiirin ja jaettuun muistialtaaseen perustuvan väylätekniikan, jota se kutsuu nimellä cluster-scale memory.
Muistiratkaisusta Wachen sanoi näin: "Se sallii monien piirien kytkeytyä yhteen ja käyttää jaettua muistiallasta hyvin, hyvin nopeasti ja pienellä viiveellä." Yhtiön oman sivuston mukaan jännite jää alle puoleen tavanomaisten tekoälypiirien tasosta, jolloin piiri yltää yli 80 prosenttiin huippulaskentatehostaan ilman lämpörajoitusta. Luku on Etchedin itsensä ilmoittama, ei mitattu ulkopuolella.
Etched perustettiin idealle, jossa yksi malliarkkitehtuuri poltetaan suoraan piiriin. Siitä yhtiö on nyt irtautunut ja kertoo järjestelmiensä ajavan mitä tahansa huippumallia. Tuotelinjoja on silti yksi, asiakasreferenssejä julkisuudessa yksi, ja ensipiiri palasi TSMC:n tehtaalta vasta kesäkuun lopussa. Miljardin dollarin kysyntä, johon yhtiö viittaa, on niin ikään sen oma ilmoitus kesäkuun 30. päivältä.
Mitä Etchedistä ei vielä tiedetä
Riippumatonta suorituskykymittausta ei ole julkaistu. Vertailut Nvidian laitteistoon perustuvat yhtiön omiin lukuihin.
Toista nimettyä asiakasta ei ole. Miljardin dollarin kysyntäluku on yhtiön ilmoitus, ei tilauskanta tilintarkastetusta tilinpäätöksestä.
Tuotannon volyymista, saatavuudesta ja hinnasta ei ole julkista tietoa. Etched ei ole kertonut, milloin toinen räkki lähtee ja kenelle.
Sanasto
Päättely eli inferenssi
Valmiin tekoälymallin käyttöhetki: se laskenta, joka tapahtuu kun malli tuottaa vastauksen kysymykseen. Eri asia kuin mallin kouluttaminen, joka tehdään kerran etukäteen.
Prefill ja decode
Päättelyn kaksi vaihetta. Prefill lukee kerralla käyttäjän syötteen ja taustatiedot, decode tuottaa vastauksen sana kerrallaan. Vaiheet kuormittavat laitteistoa eri tavoin, joten niille kannattaa suunnitella erilaiset piirit.
MLPerf
Alan yhteinen mittaristo, jolla tekoälylaitteistojen nopeutta vertaillaan samoilla säännöillä. Tulokset tarkistetaan ulkopuolisesti, joten ne ovat eri asia kuin valmistajan omat luvut.
Miksi tämä näkyy Suomessa
Päättelylaskenta on se osa tekoälyn kustannuksista, joka toistuu joka kerta kun joku kirjoittaa kysymyksen chattiin. Sen hinta määräytyy siitä, kuinka monta uskottavaa laitetoimittajaa markkinalla on. Niin kauan kuin Nvidia on käytännössä ainoa vaihtoehto, konesalikapasiteetin hinta on sen määrittämä, ja se hinta siirtyy suomalaisten pilvipalvelujen ja tekoälytyökalujen laskuihin.
Suomeen suunnitellut suuret datakeskushankkeet tekevät kapasiteettisopimuksia vuosiksi eteenpäin. Jos Etchedin kaltaiset haastajat aidosti pudottavat päättelyn kilowattihintaa, täkäläinen ostaja saa neuvotteluvoimaa. Jos ne osoittautuvat rahoituskuplaksi, sopimukset on jo tehty toisenlaisilla oletuksilla. Sama rahoituslogiikka näkyy myös datakeskusten omistusjärjestelyissä, joita käsittelimme jutussa datakeskusjätin pörssilistautumisesta.
Seuraava kiinnostava uutinen Etchedistä ei ole rahoituskierros. Se on päivä, jona yhtiö nimeää asiakkaan, joka ei omista siitä osaa. Siihen asti 21 miljardin arvostus lepää yhden testin ja yhden tyytyväisen ostajan varassa, ja se ostaja laskee tuottonsa samasta taulukosta kuin sijoituksensa.
Viikoittainen uutiskirje
Tule firmasi fiksuimmaksi AI-osaajaksi
Yksi uutiskirje kerrallaan. Kokoamme viikon tärkeimmät tekoälyuutiset suomeksi ja kerromme, mitä ne tarkoittavat sinun työsi kannalta. Luet sen kahvitauolla.
