过去几年,大模型的发展绕不开Scaling Law。更大的模型参数、更多的训练数据、更强的算力,预训练推动模型能力不断提升。
但随着预训练成本不断上升,依靠扩大训练规模提升模型能力,也逐渐面临新的挑战。
从 SFT 到偏好优化,再到强化学习,研究者将更多的目光投向 Post-Training。知友@7w1nKle 回溯了 Post-Training 的发展历程,从早期 NLP 的探索出发,梳理技术演进中的关键变化,并进一步思考它未来的发展方向。
@7w1nKle
阅读更多
🤝 知乎 AI Researcher Club 招募:
知乎联合 10+ 家媒体、创投孵化合作伙伴发起「AI Researcher Club」共创计划,长期支持支持 AI 前沿研究者,让重要的研究被看见、被讨论,让研究者找到彼此,也让新的合作由此发生。点击了解 >> AI Researcher Club
🚀 知乎 AI 社群:
如果你对 AI 共识、AI 活动感兴趣,欢迎扫码加入知乎社群↓,我们将每周送上知乎 AI 周报,分享社区内的 AI 讨论与共识,并不定时送上 AI 各类活动报名。
知乎AI情报站
让一部分开发者先走起来
🚀 知乎科技账号 @ZhihuFrontier 正式登陆 X
👉🏻 https://www.zhihu.com/project-square,上传你的 Vibe Coding 项目,在知乎遇见更多可能。

