Xiangxin 的目标，是做全球第一的决策模型。
我们希望 AI 能够读懂材料、理解问题，在具体选项之间做出准确判断，并给出可信的概率。这意味着，我们既要关注判断是否正确，也要关注模型对自己判断的把握是否可靠，以及它能否以足够低的延迟和成本投入实际使用。
从昨天开启训练直播到今天，我们经历了数值异常、多次重启、架构实验和数据修正。目前，Xiangxin 3.0 9B 已进入正式训练。
距离目标还有很长的路。这两天的进展，是让下一步有了更扎实的依据。
开播之后，首先遇到的是训练异常
直播最初启动的是 27B 训练，但早期运行出现了 NaN——计算结果变成了无效数值，后续参数更新也因此失效。
遇到这种情况，训练继续跑下去，并不意味着模型继续学习。
我们首先增加了数值保护：遇到异常梯度时跳过更新，连续异常时停止运行，避免把算力花在已经失效的训练上。随后逐步增加诊断记录，尝试缩小问题范围。
定位过程并不顺利。单卡测试没有复现相同问题，而在多卡训练中，梯度汇总又可能把局部异常传播出去，让源头更难辨认。因此，我们进一步细化了诊断，从观察整体数值，转向检查具体模块。
这些工作改善了异常处理和排查能力，但当时还不足以宣布问题已经彻底解决。我们停止了原来的 27B 运行，同时推进新的架构实验。
推进 Xiangxin 3.0，先用实验检验方向
训练排障之外，我们也在重新审视决策模型的使用方式。
真实应用中，一份材料经常对应多个问题。例如，同一份合同需要检查多项条款，同一封邮件需要判断多种风险。模型既需要准确理解材料，也需要高效处理围绕它提出的多个判断任务。
围绕这个目标，我们开展了 Xiangxin 3.0 的架构实验，对候选方案进行对照验证，并完成训练与推理实现的核对。初步实验为继续推进新方案提供了依据，但它还需要正式训练和更完整的评测检验。
因此，这两天的一个重要变化是：从直接推进大模型训练，转向先验证新方案，再逐步扩大规模。
这些工作最终带来了怎样的能力变化,，在后续评测会能看到。
数据也需要修正，不能只盯着模型
这两天，我们还发现了一项训练数据的类别覆盖问题。
如果训练样本过度集中在某一类答案，模型可能学到偏向性的判断习惯。训练指标看起来有所改善，实际使用时却更容易误判。
针对这一问题，我们调整了相关数据，并完成了补充合成数据的验收，随后用于新一轮训练准备。
这件事提醒我们：决策模型的能力，取决于模型、数据和评测共同构成的系统。只增加参数，无法替代对数据质量的检查。
为什么先训练 9B，而不是继续直接训练 27B？
最直接的原因是：新方案需要更多有效实验，而 9B 能让我们更快获得反馈。
在架构和数据都发生调整时，我们需要回答几个问题：模型能否稳定训练？新的数据是否改善了判断？验证集上的变化能否在公开评测中得到支持？
先用 9B 跑通完整流程，可以降低单次试验的成本，让我们有机会比较更多方案，再决定如何把资源投入 27B。
这也符合 scaling law 带来的一个基本启发：模型规模、训练数据和计算预算，需要一起考虑。
Chinchilla 的研究表明，在其研究的预训练条件下，计算预算的合理分配需要同时考虑参数规模和训练数据量。单独增加参数，并不意味着获得了最优的资源配置。
不过，我们当前进行的是决策模型后训练，不能直接套用预训练的比例关系，也不能据此断言 9B 一定优于 27B。
对 Xiangxin 而言，先训练 9B 是当前阶段的实验选择：先验证方法、数据和工程链路，再用更大规模检验能力上限。27B 仍在后续计划中。
现在训练到了哪里？
截至本文整理时，公开直播状态显示，Xiangxin 3.0 9B 已完成约 34% 的计划训练步数，训练仍在进行。
为了让训练过程中的能力变化可见，我们专门留出评测资源，定期评估保存的模型检查点。直播页同时展示训练状态与阶段性评测结果。
这些中间结果帮助我们判断方向，但公开集子集成绩、估计值和完整评测成绩需要分别看待。训练尚未完成，现在还不能据此判断最终排名。
接下来，用结果回答问题
接下来，我们会继续完成 9B 训练，检查稳定性和各项能力的变化，并通过更完整的评测判断新方案是否成立，再推进 27B 的训练与验证。
“全球第一”是我们选择的目标，需要靠公开、可比较、可复核的结果一步步证明。
这场直播会继续记录训练的进展，也会记录异常、调整和重新开始。欢迎在 Xiangxin 训练直播 继续关注。
直播平台：https://xiangxinai.cn/training/