Karpathy, pôvodom zo Slovenska, bol jedným zo zakladajúcich členov OpenAI a neskôr pôsobil ako Director of AI v Tesle, kde viedol tím pre počítačové videnie v rámci Autopilotu. V poslednom období sa venoval najmä vzdelávaniu v oblasti AI cez svoj projekt Eureka Labs.
V Anthropicu sa má podľa dostupných informácií pripojiť k pretraining tímu, ktorý pracuje na základoch modelov Claude. Pretraining je fáza, v ktorej sa veľký jazykový model učí z rozsiahlych dát ešte pred následným ladením, testovaním a nasadením do produktu.
Najzaujímavejšia časť Karpathyho príchodu však nie je len jeho meno. Má v Anthropicu budovať tím, ktorý bude používať samotný Claude na zrýchľovanie pretraining výskumu. Claude tak nebude iba výsledkom vývoja, ale aj nástrojom, ktorý môže pomáhať pri vývoji jeho ďalších generácií,
Pre Anthropic to môže byť dôležitý posun. Pri vývoji frontier modelov nerozhoduje iba výpočtová sila, ale aj:
- schopnosť rýchlejšie testovať hypotézy,
- lepšie pracovať s dátami,
- nastavovať evaluácie,
- a automatizovať časti výskumnej práce.
Karpathyho skúsenosť je práve v prepájaní hlbokého technického výskumu, praktického inžinierstva a vzdelávania.
Jeho príchod zároveň zapadá do širšieho smerovania Anthropicu. Firma v poslednom období výrazne tlačí Claude do kódovania/vibe codingu (výraz, s ktorým prišiel práve Karpathy vo februári 2025), agentických workflowov a firemného využitia. Posilnenie pretraining tímu ukazuje, že Anthropic nechce rásť iba cez nové produktové funkcie, ale aj cez základný výskum, ktorý rozhoduje o kvalite ďalších generácií modelov.
Karpathy sa vo svojom poste na sieti X (ex Twitter) vyjadril, že najbližšie roky na fronte veľkých jazykových modelov považuje za mimoriadne formujúce a že sa teší na návrat k výskumu a vývoju. Zároveň dodal, že zostáva hlboko zanietený pre vzdelávanie a plánuje sa k nemu časom vrátiť.
Zdroj foto: LinkedIn Andrej Karpathy
