作者|Wildcard
编辑|靖宇
11月5日,OpenAI前CTO Mira Murati创立的Thinking Machines Lab(简称TML)迎来关键节点。公司发布第二代模型Inkling 2 Small,第三方机构Artificial Analysis(AA)评价其为“中国以外得分最高的开放权重模型”。与此同时,TML正以400亿美元投前估值筹集50亿美元新融资。
TML自2025年2月亮相以来,经历了核心团队变动与融资谈判波折。此次二代模型的成色及训练数据的来源,成为市场关注焦点。在技术博客中,TML明确披露:预训练后半程数据大部分采样自更早的模型,并点名使用了月之暗面的Kimi K3。
594B参数的“Small”模型实力解析
在大模型领域,“Small”的定义正在不断扩张。TML今年7月发布的初代Inkling Small为276B参数,而第二代Inkling 2 Small总参数量翻倍至594B,每次推理激活17B参数。该模型采用MoE架构,支持100万上下文及可调思考力度,具备视觉处理能力,但不支持音频输入。
其训练流程极为繁重:第一阶段在英伟达GB300集群上以原生NVFP4精度处理8.4万亿token;第二阶段注入3.8万亿高质量新数据;最后通过约3540亿token的推理与智能体轨迹进行收尾,并完成为期9天的联合强化学习。这一长链路训练旨在提升模型的长程自主工作能力。
用 Three.js 从零生成的城市经营游戏|图片来源:Thinking Machines
演示显示,该模型能独立完成复杂任务,如用Three.js编写城市经营游戏、用Python构建Linux内核模拟器,或将平面户型图转化为3D漫游场景。尽管训练期间曾出现模型绕过网络封锁的安全插曲,但发布版的不当行为得分已大幅降低。
在性能表现上,Inkling 2 Small在知识工作和长流程商业任务上优势明显。在AA-Briefcase测试中得分为1527,超越Claude Sonnet 5.5和Gemini 3.8 Flash。但在编程领域,它虽优于Kimi K3的部分版本,仍落后于DeepSeek-V4.1-Flash;在命令行任务上也与顶尖闭源模型存在差距。
成本方面,该模型具有显著优势。每百万token输入0.30美元、输出1.00美元,单个任务平均成本约1.18美元,远低于竞品。不过,其幻觉率的降低部分源于“不会就不答”的策略,导致答题率下降,且聊天体验和内容组织能力仍有优化空间。
为Tinker平台打造专属工具
Inkling 2 Strong在代码生成和表格处理上的侧重,直接服务于TML的核心产品——云端微调API平台Tinker。开源模型作为引流手段,吸引企业用户在平台上进行付费微调和推理。
训练数据配比反映了这一战略意图:编程占65.0%,办公与知识工作占13.3%,STEM推理占7.6%,网页与应用构建占7.2%,而日常对话仅占0.2%。评分机制也针对生产力任务设计,强调解题思路而非单纯的结果验证。
Inkling 2 Small 在 Blender 中按反馈迭代出的纸艺动画|图片来源:Thinking Machines
官方强调该模型“适合微调”,在相同数据算法下学习效率更高。案例显示,模型甚至能在Tinker平台上自主完成对小模型的训练和优化,验证了其作为开发工具的潜力。TML计划通过中等尺寸模型验证能力,逐步完善产品矩阵。
中国开源模型成为全球训练数据源
TML在技术博客中坦承,H3和H4阶段的数据大量采样自早期模型,其中包括Kimi K3。虽然这部分数据体量相较于预训练总量较小,但对于模型学会长上下文推理和智能体行为至关重要。
从一张平面户型图生成的 3D 漫游,右上角是行走路线|图片来源:Thinking Machines
选择Kimi K3的原因在于其强大的智能体能力和开放权重属性。获取高质量的智能体轨迹数据难度极大,利用现有优秀开源模型的输出进行采样和过滤,已成为行业内的务实工程选择。这与违反服务条款的“蒸馏”闭源模型行为有本质区别。
这一现象标志着生态位的变化:中国开源模型如Kimi K3和阿里Qwen,已成为硅谷团队训练下一代模型的重要数据来源。开源社区的竞争模式正从单纯的微调Llama等西方模型,转向利用全球最优秀的开源成果进行二次创新。
美国开源模型能否实现反超?
尽管整合了Kimi K3的数据,Inkling 2 Small在整体排名上仍未登顶。在AA最新开放权重榜中,它以31分位居欧美模型前列,但低于中国模型的Kimi K3.1 Pro(46分)、DeepSeek V4.1 Flash(33分)和GLM-5.3(32分)。
此外,TML采取的“安全开放”策略意味着模型需先经过外部安全测试才会完全公开权重,目前仍处于过渡阶段。开源模型的竞争已进入相互借鉴、循环演进的新阶段。TML的技术披露不仅展示了其工程实力,也折射出中国AI模型在全球开源生态中日益重要的地位。
随着TML后续推出更大规模的Inkling 2系列,训练日志中是否还会频繁出现中国模型的名字,值得持续关注。
*头图来源:TML
本文为极客公园原创文章,转载请联系极客君微信 geekparkGO

