大数跨境

浅谈 Post-Training 的前世,今生,未来

浅谈 Post-Training 的前世,今生,未来 知乎AI先行者
2026-10-14
3
导读:过去几年,大模型的发展绕不开Scaling Law。更大的模型参数、更多的训练数据、更强的算力,预训练推动模型能力不断提升。



过去几年,大模型的发展绕不开Scaling Law。更大的模型参数、更多的训练数据、更强的算力,预训练推动模型能力不断提升。


但随着预训练成本不断上升,依靠扩大训练规模提升模型能力,也逐渐面临新的挑战。


从 SFT 到偏好优化,再到强化学习,研究者将更多的目光投向 Post-Training。知友@7w1nKle 回溯了 Post-Training 的发展历程,从早期 NLP 的探索出发,梳理技术演进中的关键变化,并进一步思考它未来的发展方向。

@7w1nKle



阅读更多

置身 AI 内: 从推理 infra 到 RL infra
从 DeepSeek 的「神鬼二象性」,聊聊 AI 性能漂移
手艺、饭碗与代码:人类控制权的静默转移丨知乎 AI 观察
震撼首发:一个 1990 年提出的 O(n^2) 算法首次被改进到了 O(n log n),由人类!

🤝 知乎 AI Researcher Club 招募:

知乎联合 10+ 家媒体、创投孵化合作伙伴发起「AI Researcher Club」共创计划,长期支持支持 AI 前沿研究者,让重要的研究被看见、被讨论,让研究者找到彼此,也让新的合作由此发生。点击了解 >> AI Researcher Club

🚀 知乎 AI 社群:

如果你对 AI 共识、AI 活动感兴趣,欢迎扫码加入知乎社群↓,我们将每周送上知乎 AI 周报,分享社区内的 AI 讨论与共识,并不定时送上 AI 各类活动报名。








知乎AI情报站








让一部分开发者先走起来

🚀 知乎科技账号 @ZhihuFrontier 正式登陆 X

🌏 知乎 AI Works 项目广场:

👉🏻 https://www.zhihu.com/project-square,上传你的 Vibe Coding 项目,在知乎遇见更多可能。


【声明】内容源于网络
0
0
知乎AI先行者
在智能之海寻找信标,航向未来。
内容 201
粉丝 0
知乎AI先行者 在智能之海寻找信标,航向未来。
总阅读3.2k
粉丝0
内容201