所谓的推理型AI模型正变得更容易——也更便宜——开发。
周五，来自加州大学伯克利分校Sky计算实验室的研究团队NovaSky发布了Sky-T1-32B-Preview。这是一个在多个关键基准测试中与OpenAI o1早期版本相媲美的推理模型，也是目前首个可从头复现的真正开源推理模型；该团队同步公开了训练数据集及必要代码。
“值得注意的是，Sky-T1-32B-Preview的训练成本不到450美元，”该团队在博客文章中写道，“证明了以负担得起的成本高效复现高级推理能力是可行的。”
虽然450美元看似不低，但此前训练同等性能模型的代价往往高达数百万美元。合成训练数据（即由其他模型生成的数据）有效降低了成本。例如，AI公司Writer最近发布的Palmyra X 004模型几乎完全基于合成数据训练，据报道开发成本仅为70万美元。
与大多数AI不同，推理模型能有效进行自我事实核查，从而避免导致其他模型出错的陷阱。尽管其得出解决方案通常比非推理模型多花几秒至几分钟，但在物理、科学和数学等领域往往更加可靠。
NovaSky团队使用另一推理模型Alibaba QwQ-32B-Preview为Sky-T1生成初始训练数据，经筛选后利用OpenAI GPT-4o-mini将数据重构为更易处理的格式。使用8块Nvidia H100 GPU组成的机架训练拥有320亿参数的Sky-T1耗时约19小时（参数量大致对应模型的解题能力）。
据NovaSky团队称，Sky-T1在MATH500（一组“竞赛级”数学挑战题集）上的表现优于o1早期预览版，并在LiveCodeBench代码评估测试的一组难题上击败了o1预览版。
然而，在包含博士生应具备的物理、生物和化学相关问题的GPQA-Diamond基准上，Sky-T1的表现不及o1预览版。
同样值得注意的是，OpenAI o1的GA发布版强于预览版，且预计未来几周内将发布性能更优的推理模型o3。
NovaSky团队表示，Sky-T1只是他们开发高级推理能力开源模型的起点。“展望未来，我们将专注于开发在保持强大推理性能的同时效率更高的模型，并探索能进一步提升模型测试时效率和精度的先进技术，”团队写道，“请继续关注我们在这些令人兴奋的项目上取得的进展。”