Andrej Karpathy ilmoitti tiistaina liittyvänsä Anthropicille. OpenAI:n alkuperäinen perustajajäsen, Tesla Autopilotin entinen johtaja ja koulutusstartup Eureka Labsin perustaja kertoi X-postauksessaan haluavansa takaisin tutkimukseen ja kehitykseen. Karpathy aloittaa Anthropicin pretraining-tiimissä Nick Josephin alaisuudessa ja perustaa uuden ryhmän, joka käyttää Claudea vauhdittamaan esikoulutustutkimusta.
Pretraining tarkoittaa kallista vaihetta, jossa kielimallit oppivat perustaitonsa: kielen rakenteet, koodauksen, päättelyn alut. Se on Anthropicin yrityksen sydän. Karpathyn tehtävänä on opettaa Claudea opettamaan Claudea, eli rakentaa työkalu, joka nopeuttaa seuraavien mallien syntyä.
“Liityin Anthropicille. Uskon, että seuraavat vuodet kielimallien etulinjassa ovat erityisen muovaavia. Olen innoissani tiimiin liittymisestä ja paluusta tutkimukseen ja kehitykseen.”
Viidettä vuotta jatkuva OpenAI-pako
Karpathy on jo toista kertaa OpenAI:lle hyvästit jättävä. Hän erosi yhtiöstä ensin 2017 siirtyäkseen Teslaan, palasi 2023 ja jätti uudelleen 2024 perustaakseen Eureka Labsin. Viimeisen kahden vuoden aikana OpenAI:sta ovat lähteneet myös pääteknologi Mira Murati Thinking Machines Labin johtoon ja huippututkija Ilya Sutskever Safe Superintelligenceen.
Anthropicille on virrannut tasaisesti OpenAI:n entisiä työntekijöitä jo Daniela ja Dario Amodein perustamisesta lähtien vuonna 2021. Karpathy ei tule kilpailijalta suoraan vaan koulutusyhtiönsä kautta, mutta viesti on selkä. Jos haluat tehdä rajan ylittävää LLM-tutkimusta vuonna 2026, valitset Anthropicin OpenAI:n sijaan. Tämä sanoma on raskaampi kuin yksittäinen palkkaus.
Vibe codingin isä uudessa roolissa
Karpathy keksi viime vuonna termin vibe coding: koodaustyylin, jossa kehittäjä antaa tekoälyn kirjoittaa koodin ja hyväksyy sen lukematta tarkkaan. Termi levisi sosiaalisessa mediassa ja päätyi keskusteluihin ohjelmistolaadusta. Karpathy itse on suhtautunut käsitteeseen kaksipiippuisesti: hauskaa amatöörille, vaarallista tuotantokoodissa.
Anthropicilla hän siirtyy retoriikasta laboratorioon. Pretraining-vaiheen tehostaminen oli pitkään puhtaan datavolyymin ja laskentatunnin kysymys. Karpathyn lähestymistapa on todennäköisesti toinen: käyttää nykyistä Claudea synteettisen datan tuottamiseen, oppimisesimerkkien valintaan ja kokeellisten setuppien optimointiin. Samaa logiikkaa on käytetty Geminin koulutuksessa Google DeepMindillä.
Suomen näkökulma
Helsingin yrityksille uutinen on pieni mutta merkityksellinen signaali. Anthropic on viime kuukausina vallannut Suomessa jalansijaa Big Four -konsulttitalojen sisäisissä työkaluissa, kun OpenAI on jäänyt enimmäkseen Microsoftin Copilot-paketin alle. Jos tutkimuspuoli vahvistuu Karpathyn kaltaisilla palkkauksilla, suomalaiset yritysasiakkaat saavat todennäköisesti nopeammin kehittyviä malleja samoilla sopimushinnoilla.
Aalto-yliopiston ja Helsingin yliopiston tutkijaverkostot saattavat hyötyä myös välillisesti. Karpathyn YouTubeen lataamia luentoja transformer-arkkitehtuurista käytetään useilla suomalaisilla kursseilla, ja Eureka Labsin koulutusmateriaalit pohjautuvat samaan ajatteluun. Vaikka koulutusprojekti jää nyt sivuun, Karpathy lupasi palata siihen ajan kanssa. Hänen mittareillaan se voi tarkoittaa kahta vuotta tai kahta vuosikymmentä.
OpenAI:n perustajien ja huippujohtajien lähdöt 2017–2026
2017
Karpathyn ensimmäinen lähtö
Andrej Karpathy siirtyy OpenAI:lta Teslan Autopilot-tiimin johtoon.
2021-01
Anthropic perustetaan
Dario ja Daniela Amodei jättävät OpenAI:n ja perustavat kilpailevan tutkimuslaboratorion kourallisen tutkijan kanssa.
2023
Karpathy palaa hetkeksi
Karpathy palaa OpenAI:lle tutkimustehtäviin, mutta jää vain vuodeksi.
2024
Murati, Sutskever ja Karpathy lähtevät
Pääteknologi Mira Murati perustaa Thinking Machines Labin, huippututkija Ilya Sutskever Safe Superintelligencen ja Karpathy koulutusyhtiö Eureka Labsin.
2026-05
Karpathy liittyy Anthropicille
Karpathy siirtyy Anthropicin pretraining-tiimiin Nick Josephin alaisuuteen rakentamaan Claudea, joka opettaa seuraavaa Claudea.
Sanasto
Pretraining (esikoulutus)
Kielimallin koulutuksen ensimmäinen ja kallein vaihe, jossa malli oppii perustaitonsa lukemalla valtavia tekstimassoja. Vasta tämän jälkeen mallia hienosäädetään tiettyihin tehtäviin.
Transformer-arkkitehtuuri
Nykyisten kielimallien perusrakenne, jonka Google julkaisi 2017. Sen ansiosta malli pystyy käsittelemään pitkiä tekstipätkiä ja ymmärtämään sanojen välisiä yhteyksiä.
Synteettinen data
Tekoälyn itse tuottamaa harjoitusaineistoa, jota käytetään seuraavien mallien kouluttamiseen oikean datan rinnalla tai sijaan.
Mitä seuraavaksi
Anthropicin pretraining-pyrkimykset ovat keskittyneet viime aikoina pidempiin konteksti-ikkunoihin ja agenttipohjaiseen järkeilyyn. Karpathyn ryhmän panos näkynee aikaisintaan Claude 5 -mallissa, jota odotetaan loppuvuodesta. Sitä ennen kannattaa seurata Anthropicin tutkimusjulkaisuja: jos Karpathyn nimi alkaa esiintyä paperien tekijälistalla, suunta on selvä.
OpenAI:n suunnasta katsottuna kysymys on, kuka pysyy. Sam Altman ja Brad Lightcap eivät ole menossa minnekään, mutta varjojohtoporras alkaa olla ohut. Kun perustajatason nimet siirtyvät kilpailijalle yksi toisensa jälkeen, vaikutus rekrytointiin ei jää otsikoihin. Seuraavan Karpathyn etsijä saattaa kysyä, kannattaako enää aloittaa OpenAI:lta.
Viikoittainen uutiskirje
Tule firmasi fiksuimmaksi AI-osaajaksi
Yksi uutiskirje kerrallaan. Kokoamme viikon tärkeimmät tekoälyuutiset suomeksi ja kerromme, mitä ne tarkoittavat sinun työsi kannalta. Luet sen kahvitauolla.
