大数跨境

卡帕西七个仓库又火了:从100行反向传播,到48美元训出能聊天的模型

卡帕西七个仓库又火了:从100行反向传播,到48美元训出能聊天的模型 AI科技明星
2026-10-29
3
导读:卡帕西的公开仓库被排成免费学习路径。他一路在教人学会:CS231n、YouTube、再到七仓梯子——比只听观点更能上手。

QUOTE

比起反复听大佬怎么看行业,按他公开仓库从最小原理往上搭,更能上手。

—— 本号观点

这几天 X 上又在传一张「卡帕西七仓路线图」:从约一百行的 micrograd,一路排到能让 agent 通宵跑实验的 autoresearch。有人把它叫成「免费 AI 学位」。

说法夸张,方向没错。

比起反复听大佬怎么看行业,按他公开仓库从最小原理往上搭,更能上手。他把「我自己搞懂了什么」压成能 clone 的代码,这条习惯从斯坦福讲课一直带到现在。

本文看点

01

CS231n 从 150 人涨到 750

02

七仓怎么一层加一层

03

README 里写明约 48 美元

01

HEAT

热点:七个仓库被排成梯子

社区常按这个顺序抄(仓库均在他的 GitHub,可核):

1

micrograd:约 100 行 Python,把反向传播讲透

2

nn-zero-to-hero:配套视频课,神经元一步步搭起来

3

nanoGPT:用尽量少的代码训一个你能看懂的 GPT

4

nanochat:分词、预训练、微调、评测到聊天界面整条链路

5

llm.c:用纯 C/CUDA 做训练,逼自己离开框架舒适区

6

llama2.c:单文件纯 C 推 Llama 2

7

autoresearch:让 AI agent 自己通宵跑实验

路径之所以火,不是因为又多了一门课,而是每一层只多教一件事,上一层的输出正好是下一层的输入。


02

GROW

成长:他一直在「把会的东西教出去」

卡帕西(Andrej Karpathy)博士读于斯坦福,导师李飞飞。博士期间他设计并主讲了斯坦福第一门深度学习课 CS231n:2015 年约 150 人报名,2016 年 330,2017 年到 750。他自己写在个人页上——课变大,是因为他把难东西拆到学生跟得上。

之后他做过 OpenAI 创始成员(2015–2017),又在特斯拉当过 AI 负责人(2017–2022),带 Autopilot 的视觉团队。2023–2024 短暂回 OpenAI 做 midtraining 与合成数据,随后把精力更多放回教学:YouTube 上的 Zero to Hero,以及 2024 年 7 月宣布的 Eureka Labs。

从课堂到公开仓库:同一条「教人学会」的线

— 从课堂到公开仓库:同一条「教人学会」的线

贯穿始终的不是头衔,是同一件事:先自己能从零复现,再把复现路径公开。大厂履历证明他懂前沿;公开仓库证明他愿意把「懂」变成别人也能练的台阶。


03

COPY

可抄的四步

第一步:把原理压到能讲清的最小代码。micrograd 不炫技,就一百来行。你下次学新工具,先问:去掉包装后,核心循环能不能用一页纸写完?写不完,说明自己还没真懂。

第二步:搭梯子,不一次塞整本教材。他的仓库不是「从零到专家」一锅炖,是一层只加一个能力。你给团队做内训、给自己做笔记,也可以按「本周只多会一件事」切。

第三步:自己走过的路才公开。从 CS231n 到 YouTube 再到 GitHub,材料都来自他亲手搭过的系统。对外分享前,先确认自己真跑通过——截图、日志、失败次数都可以留着,比空口安利可信。

第四步:把成本写进说明书。nanochat 的 README 写得很直:训到 GPT-2 能力量级,大约 48 美元(约 2 小时 × 8 张 H100 节点;现货实例可以更低,以仓库说明为准)。2019 年同类训练他注明约 4.3 万美元。数字一出来,「能不能练」从玄学变成账单。

想落到自己身上:回复【成长四步】领取《成长四步笔记》,四格是经历节点、可迁移做法、客观边界、本周只选一步。把卡帕西这篇填进去,十分钟就能用。


04

LIMIT

客观边界:别把它神化成「学位」

有几条要先说清。

「免费 AI 学位」是网友的说法,不是他官方产品名。仓库是开源教学材料,不是颁发证书的学校。

前几层(micrograd、视频课)普通电脑就能跟;到 nanochat、llm.c 这一带,就需要像样的 GPU 或租云节点——README 已经把钱写明了,别假装零成本。

他也不是一对一带教。进度、报错、会不会放弃,都在你自己。人无完人:他把路径摊开,不等于替你走完。

照着做:四步自检

— 照着做:四步自检


∞

THE END

最后说两句

卡帕西这条线,值得抄的不是「又一个大佬观点」,而是会了就公开、公开就分层、分层就标价。

□ 选一个正在学的工具,用 ≤1 页纸写出它的最小核心循环

□ 把下周学习目标切成「只多会一件事」的一层

□ 分享前先自己跑通,留一张成功/失败记录

□ 若涉及算力,先写出预估账单(参考他 README 的写法)

□ 回复【成长四步】领取笔记,勾选本周只做哪一步

这几步里你最想先学哪一步?满分几项?评论区报个分。身边要是有只收藏大佬语录却从不动手的朋友,把「最小代码」那一节转给他。

出处:X 热议「Karpathy GitHub learning path」(约 2026-10-26~27);karpathy/nanochat README($48 / 8×H100≈2h);karpathy.ai 履历;Eureka Labs 官网与 Reuters(2024-07-16)。

往期 · 继续读

盖茨71岁,刚说AI要乱20年:19岁时他先约演示,程序一行没写

OpenAI联合创始人卡帕西:60亿人几乎没碰过AI,只有约5000人用上最前沿

哈萨比斯刚把AGI收到两三年:17岁那款游戏卖了超一千万份

AI商业实战

END

我是「AI科技明星」,每天借热点回看一位科技圈人物的成长节点,和普通人能带走的做法。

觉得有用的话,欢迎点赞、收藏、评论。

【声明】内容源于网络
0
0
AI科技明星
实时追踪推特上的AI科技热点资讯
内容 162
粉丝 0
AI科技明星 实时追踪推特上的AI科技热点资讯
总阅读1.6k
粉丝0
内容162