大数跨境
首页
>
Inkling 2 Small 系统模型卡解读：千万级上下文的多模态 MoE 模型
>

Inkling 2 Small 系统模型卡解读：千万级上下文的多模态 MoE 模型

Inkling 2 Small 系统模型卡解读：千万级上下文的多模态 MoE 模型 苏哲管理咨询
2026-11-10
15
导读：Inkling 2 Small 是 Thinking Machines Lab 于 2026.11.5 发布的通用多模态稀疏 MoE 模型，48 层 Decoder-only 架构，总参数 594B、
编者摘要：Inkling 2 Small 是 Thinking Machines Lab 于 2026.11.5 发布的通用多模态稀疏 MoE 模型，48 层 Decoder-only 架构，总参数 594B、激活参数 17B，支持 MXFP8/NVFP4，原生图文多模态，上下文窗口达 1M token，支持英及多语言、多编程语言。输入为文本 + 图像（40–4096px 最优），输出文本，通过 Tinker 平台 API、Playground 调用，可微调与推理。训练数据包含文本、图像、视频，来源涵盖公开数据、第三方采购、内部及合成数据，经过清洗去重过滤。评测覆盖代码、智能体工具、金融法律、视觉推理、STEM、长上下文等赛道，多项基准位列前列。发布前完成多维度安全红队测试，对 CBRN、网络安全、智能体欺骗风险做评估，高危能力低于前沿模型。存在幻觉、指令遵循不稳、数据偏见、知识有时间截止等局限；高风险场景必须人工复核，医疗、法律等关键领域不建议直接落地。

10 个关键问题 Q&A

  1. Q：Inkling 2 Small 是什么模型？ A：Thinking Machines Lab 推出的通用多模态稀疏 MoE 大模型，图文输入、文本输出，面向开发者构建智能体、代码助手、RAG 等应用。
  2. Q：它的参数量和上下文窗口是多少？ A：总参数 594B，激活参数 17B；上下文窗口最高 100 万 token。
  3. Q：它的 MoE 架构如何工作？ A：48 层仅解码器，共 384 个专家，每个 token 路由到其中 8 个专家；混合局部 + 全局注意力，原生多模态。
  4. Q：支持哪些输入输出？图像有什么要求？ A：文本、图像输入，文本输出；图像单边最优 40–4096px，超 4096 会自动下采样。
  5. Q：怎么调用这个模型？ A：依托 Tinker 平台，API 支持微调 + 推理；Tinker Playground 仅支持推理，配套开源 Cookbook 和 tml-renderers 包。
  6. Q：训练数据来源有哪些？ A：公开互联网 / 仓库、第三方采购、内部自研、合成增强数据，包含文本、图片、视频。
  7. Q：它擅长哪些任务？ A：代码工程、工具调用搜索、金融税务会计、法律检索、视觉推理、STEM 数理、长上下文任务。
  8. Q：安全层面做了哪些测试？ A：日常交互、对抗提示、CBRN、网络安全、智能体欺骗与失控测试；结论高危能力弱于前沿模型。
  9. Q：模型主要短板是什么？ A：存在幻觉、偶发指令失效、继承训练数据偏见、知识存在时间截止，长多轮对话性能下降。
  10. Q：哪些场景不建议直接部署？ A：医疗、法律、安全关键决策场景，若无专项微调、领域验证、持续人工复核，不建议直接上线。
附录 Inkling 2 Small 模型卡

1. 基础信息

模型名称Inkling 2 Small

模型提供方法定名称Thinking Machines Lab, Inc.（思维机器实验室有限公司）

发布日期2026 年 11 月 5 日

许可协议https://thinkingmachines.ai/legal/terms/

预期用途Inkling 2 Small 是一款通用多模态模型，支持文本、图像输入，输出文本。支持英语及其他语种，同时适配多种编程语言。本模型面向开发 AI 应用的开发者，可用于智能体与工具调用系统、代码助手、聊天机器人、检索增强生成（RAG）系统；也适用于通用对话、指令遵循，以及其他自然语言与视觉任务。模型可接受使用政策：https://thinkingmachines.ai/model-acceptable-use-policy/

支持语言英语，通用多语言支持

2. 模型特性

模型类型多模态自回归 Transformer

架构类型48 层仅解码器 Transformer，前馈主干采用稀疏混合专家（MoE）结构：每个 token 会路由至 384 个专家中的 8 个。注意力机制为局部注意力 + 全局注意力混合层。原生多模态设计：图像通过视觉 Transformer 编码，图像与文本输入会投影至同一个隐藏空间，由解码器统一处理。

参数量总参数 5940 亿，激活参数 170 亿

数值格式支持MXFP8、NVFP4

输入模态文本：UTF-8 编码文本图像：任意像素图像输入；为达到最优效果，图像单边尺寸建议在 40 像素～4096 像素之间。Inkling 2 Small 上下文窗口最高支持100 万 token

输出模态文本：UTF-8 编码文本

3. 分发方式

开发者可通过 Tinker 平台调用模型，平台提供微调与推理的 API 访问能力。如果要通过 Tinker 对模型进行微调，可参考 Tinker 教程库：https://github.com/thinking-machines-lab/tinker-cookbook，并安装 tml-renderers 包：https://pypi.org/project/tml-renderers/。

Tinker 在线演示平台仅提供推理能力：https://tinker.thinkingmachines.ai/playground

4. 训练

数据类型训练数据包含丰富内容类型：文本、图像、视频

数据来源模型训练数据取自公开数据源、第三方采购数据、内部自研数据、合成生成 / 增强数据。公开数据包含互联网公开内容、可公开访问的代码仓库等资源。

数据治理方式数据治理包含清洗、处理、数据集改造。不同类型数据处理流程不同，手段包括去重、过滤，剔除垃圾、低质量数据，或是为满足安全等目标进行筛选。

5. 评测

说明：每行标注【该行最高得分；含并列】【该行次高得分；含并列】
ScreenSpot Pro 评测说明：图像长边超过 4096 像素时，会等比例下采样至该上限，对应的标准答案也同步缩放；尺寸更小图像不作处理。

评测对象：Inkling 2 Small、GLM-5.3-Flash、MiMo V2.6 Flash、MiniMax-M3.1-Flash、DeepSeek-V4.1-Flash-10、Muse Spark、GLM 5.3、MiMo V2.6 Pro、Mistral Large 4K、Kimi K3、GPT-6 Luna、Gemini 3.8 Flash、Claude Haiku 5.5

第三方综合指标

  • AA Index (v5.0)：30.6 / 27.8 / 26.7 / 29.1 / 32.6（次高） / 24.9 / 31.7 / 29.9 / 26.1 / – / 27.9 / 30.8 / 36.5（最高）
  • Vals Index (v2.2)：56.1% / 50.9% / 54.8% / 53.8% / 61.3%（最高） / 48.6% / 59.7%（次高） / 57.8% / 56.5% / 53.0% / 52.3% / 56.0% / 58.7%

代码能力

  • FrontierCode v2.0：25.4% / 14.2% / 21.6% / 20.8% / 28.5%（次高） / 7.6% / 21.6% / 24.0% / 15.0% / 17.3% / 25.2% / 18.7% / 34.9%（最高）
  • DeepSWE v1.1：72.1% / 63.4% / 67.9% / 73.7% / 77.0%（最高） / 60.0% / 69.0% / 71.9% / 61.7% / 68.5% / 66.6% / 73.8%（次高） / 59.9%
  • Terminal Bench Science v0.1：5.7% / 4.8% / 4.3% / 3.3% / 12.9%（次高） / 1.9% / 9.5% / 5.7% / 4.3% / 8.1% / 8.6% / 10.0% / 20.0%（最高）
  • Terminal Bench v4.0：13.1% / 32.8% / 22.7% / 25.8% / 33.8% / 8.1% / 41.9%（最高） / 34.9%（次高） / 24.8% / 12.6% / 12.6% / 19.7% / 32.8%
  • Terminal Bench 2.1（Inkling 2 Small Pi 评测套件）：85.1% / 84.3% / 87.6% / 81.7% / 78.4% / 76.4% / 88.2% / 89.9%（最高） / – / 88.3% / – / 89.4%（次高） / –
  • Terminal Bench v2.1（Terminus 套件）：81.3% / 84.3% / – / – / – / 76.4% / 83.9% / – / – / 85.0%（次高） / – / 87.6%（最高） / –
  • Vibe Code Bench v1.1：81.6% / 30.8% / 79.0% / 73.9% / 87.7%（次高） / 76.2% / 78.1% / 85.2% / 81.6% / 85.0% / 81.7% / 78.7% / 90.4%（最高）
  • Sudo L7：14.1%（次高） / – / – / – / – / – / 15.0%（最高） / – / 13.9% / 13.9% / – / 10.6% / –
  • SWE-Marathon v1.1：38.8% / 38.8% / – / – / 40.0% / – / 42.5% / – / – / 48.1%（次高） / 28.1% / – / 50.0%（最高）
  • SWEBench Multilingual（多语言软件工程）：81.2% / 88.9%（次高） / – / 79.9% / 82.9% / 77.5% / 87.6% / – / 79.7% / 91.4%（最高） / 78.2% / 85.8% / 83.7%
  • SWEBench Multimodal v2（多模态软件工程）：43.1% / – / – / – / – / – / – / 41.3% / – / 44.2%（最高） / 37.5% / 40.8% / 44.0%（次高）
  • SWEBench Pro v2（Hard，高难）：86.3%（次高） / – / – / 84.3% / – / 82.4% / 84.3% / – / – / 88.2%（最高） / – / 58.8% / 52.9%
  • SWEBench Pro v2（Full，全量）：97.7%（次高） / – / – / 96.6% / – / 95.0% / 95.6% / – / – / 97.7%（最高） / – / 94.9% / 87.2%
  • SWEBench Verified（验证集软件工程）：82.2% / 92.0% / – / 81.1% / 84.6% / 80.0% / 95.4%（最高） / – / 80.0% / 93.4%（次高） / 76.1% / 80.0% / 88.9%

自主科研

  • PostTrainBench v1.2：31.9% / 36.8%（最高） / – / – / 30.5% / – / 34.5%（次高） / – / – / 31.5% / – / – / –
  • PMPP-Hard AUC（任务时长 0–10 小时）：494.27（次高） / – / – / – / 497.36（最高） / – / 430.96 / – / 478.39 / 453.58 / – / – / –
  • BioMysteryBench（生物谜题）：70.0% / – / 69.3% / – / – / – / – / – / – / 72.6%（最高） / 61.5% / 62.2% / 70.4%（次高）

搜索与工具调用

  • BrowseComp（带上下文管理网页浏览）：90.2%（最高） / – / – / – / – / – / – / – / 84.5%（次高） / – / – / – / –
  • DeepSearchQA（深度搜索问答）：90.9%（次高） / – / – / – / – / – / – / – / – / 95.0%（最高） / – / – / –
  • MCP Atlas（全量 / 公开集）：85.4/85.0%（次高） / –/82.0% / –/62.9% / –/80.4% / –/83.2% / 89.2/87.5%（最高） / 84.2/83.6% / –/84.4% / –/84.5% / 82.3/84.2% / –/77.8% / –/87.5% / –/81.0%

知识工作

  • AA-Briefcase v1.1：1527 / 1451 / 1487 / 1476 / 1570（次高） / 1279 / 1503 / 1512 / 1348 / 1497 / 1337 / 1203 / 1574（最高）
  • GDPVal-AA v2.1：1630 / 1649 / 1614 / 1465 / 1746（最高） / 1401 / 1657 / 1689（次高） / – / 1543 / 1444 / 1445 / 1631
  • JobBench（求职任务）：70.5%（最高） / 60.7% / 61.2% / 67.5%（次高） / – / 61.8% / 61.4% / 62.0% / 55.2% / 54.3% / 49.0% / – / 39.2%

企业运营

  • AutomationBench v1.0.6（自动化）：45.6% / 60.4% / 52.3% / – / 66.6%（最高） / 49.7% / 62.2%（次高） / 58.6% / 57.8% / 58.3% / – / 59.9% / 35.4%
  • EnterpriseOps-Gym（企业运营仿真）：46.8%（最高） / 33.2% / – / – / – / 36.4% / – / – / 45.3%（次高） / – / – / – / –
  • EnterpriseBench-CoreCraft（企业核心业务）：71.8%（最高） / 46.7% / – / – / – / 51.8% / – / – / 43.1% / – / 58.5%（次高） / – / –

金融任务

  • Tau 3 Banking v1.0.1（银行任务）：40.4%（次高） / 47.2%（最高） / – / – / – / – / – / – / – / 33.4% / – / – / –
  • Finance Agent v2.1（金融智能体）：67.5%（最高） / 60.6% / 63.3% / 58.8% / 62.9% / 60.7% / 65.0% / 64.3% / 61.7% / 60.0% / 56.8% / 65.8%（次高） / 65.4%
  • Excel Modeling Benchmark v1.1（Excel 建模）：69.5% / 66.3% / 68.9% / 67.8% / 69.2% / 62.0% / 69.1% / 67.4% / 68.7% / 71.3%（次高） / 70.0% / 72.9%（最高） / 65.5%
  • Tax Agent Bench（税务智能体）：65.8% / 62.0% / 59.9% / 62.7% / 74.9%（最高） / 52.1% / 73.1%（次高） / 64.9% / 67.5% / 68.7% / 58.9% / 66.8% / 62.2%
  • DAYJOB（金融场景）：14.3%（最高） / 7.3% / – / – / 12.5%（次高） / – / 11.0% / – / 4.8% / 5.5% / 6.8% / 4.5% / –
  • Apex-Accounting v1.1（会计，pass@1 / 平均分）：14.5/62.0% / 12.3/53.7% / – / 13.5/60.0% / 12.5/59.3% / 13.8/58.0% / 13.9/59.5% / – / 12.0/56.5% / 9.5/56.7% / 10.8/53.9% / 15.5/58.8%（最高） / 15.3/62.2%（次高）
  • Diligence Bench（尽职调查）：58.1%（次高） / – / – / – / 50.4% / 59.0%（最高） / 49.4% / – / – / – / 42.1% / 51.1% / 40.8%

法律任务

  • Harvey LAB v1.1：21.7%（次高） / 10.4% / 13.3% / 7.5% / 14.2% / 25.0%（最高） / 14.6% / 13.8% / 15.8% / 12.9% / 4.2% / 12.1% / 4.2%
  • Legal Research Bench（法律检索）：46.6% / 45.2% / 38.0% / 34.1% / 45.2% / 38.5% / 49.0%（最高） / 47.1%（次高） / 35.6% / 46.2% / 30.3% / 38.9% / 43.8%

视觉生成

  • DesignArena Web Apps（网页应用设计）：1296（最高） / – / – / – / – / – / – / 1275 / – / 1283（次高） / 1161 / 1221 / –
  • DesignArena Website（网站设计）：1340（最高） / 1270 / – / 1280 / 1297 / 1303 / 1290 / 1307 / 1256 / 1334（次高） / 1268 / 1299 / 1261
  • DesignArena Game Dev（游戏开发）：1428（最高） / 1276 / – / 1312 / 1261 / 1270 / 1303 / 1315 / 1225 / 1351（次高） / 1261 / 1305 / 1319
  • DesignArena 3D Design（3D 设计）：1401（最高） / 1314 / – / 1332 / 1361 / 1261 / 1324 / 1333 / 1249 / 1381（次高） / 1213 / 1291 / 1334
  • Code Arena：1653 / 1607 / 1637 / 1582 / 1665（最高） / – / 1623 / 1625 / 1544 / 1656（次高） / 1579 / 1583 / 1589
  • AA-3D：1021（最高） / 937 / – / – / – / – / 782 / 977 / – / 982 / – / 965 / 994（次高）
  • Code2Video-AA：1020 / 975 / 1052（次高） / – / – / – / 1034 / 1052（次高） / – / 1041 / 1030 / 899 / 1192（最高）

视觉感知

  • PerceptionBench：64.7%（最高） / – / – / – / 47.7% / – / – / – / – / 58.5%（次高） / 56.2% / – / –
  • ScreenSpot Pro（原图 / 启用 Python）：83.8/91.5%（最高） / – / – / – / – / – / – / 56.6%/– / 42.3%/– / 73.8/83.2% / 81.1/87.6%（次高） / – / –
  • Humanity’s Sixth Sense：33.3%（次高） / 26.8% / 25.4% / – / 30.1% / 29.6% / – / 25.2% / – / 25.5% / 21.0% / 41.6%（最高） / –
  • BabyVision（原图 / 启用 Python）：68.6/93.7%（最高） / 53.4/82.6%（次高） / – / –/91.0% / –/92.5% / 44.3/80.2% / – / – / 42.3/71.5% / 53.4/85.7%（次高） / – / – / –

视觉推理

  • GDP.pdf：25.2%（最高） / 15.4% / 9.0% / 20.8% / 17.2% / 18.6% / 11.2% / 19.2% / 17.6% / 22.0% / 22.8%（次高） / 21.0% / 20.8%
  • MMMU Pro (Standard 10)：81.6%（次高） / 79.0% / – / 79.1% / 80.6% / 80.9% / – / 74.1% / 78.0% / 80.5% / 79.7% / 85.6%（最高） / 79.1%
  • Charxiv RQ（原图 / 启用 Python）：85.6/87.7%（次高） / 80.2/89.4% / 66.2%/– / 82.5%/– / 77.0/85.6% / 85.4/88.7% / – / 74.2%/– / 83.2/87.9% / 84.8/91.3% / 81.8/85.3% / 86.2/92.1%（最高） / 84.4%/–
  • Chartography（图表理解，原图 / 启用 Python）：36.7/80.4% / 16.3/78.0% / 7.5%/– / 12.6%/– / 17.9/83.0% / 35.7/63.2% / – / 10.8%/– / 21.2/56.6% / 26.6/68.1% / 32.0%/– / 40.9/82.0%（次高） / 46.4%/–（最高）
  • MathVision（数学视觉）：92.8%（次高） / 82.9% / – / – / – / 87.7% / – / – / 88.9% / 93.1%（最高） / – / – / –
  • SAGE v1.1：88.6% / 89.3%（次高） / 83.3% / 85.3% / – / 85.8% / – / 84.4% / – / 86.8% / 83.4% / 88.2% / 89.8%（最高）

STEM（数理工程）推理

  • CritPt v2（全量 / 高难）：55.7/35.0% / –/24.5% / –/29.5% / 51.4/32.5% / 50.6/25.0% / 52.6/29.5% / 57.4/33.5% / 56.9/34.0% / 50.3/27.0% / –/40.5% / 65.1/42.5%（最高） / 65.1/46.5%（最高） / 64.0/43.5%（次高）
  • HLE-Diamond（高难度推理）：28.7% / 18.2% / 13.7% / 28.1% / 25.3% / 26.3% / 17.9% / 15.2% / 17.3% / 26.9% / 22.2% / 33.1%（最高） / 29.6%（次高）
  • HLE（纯文本高难推理）：44.1% / 39.9% / 35.1% / 48.0%（次高） / 43.3% / 43.9% / 42.3% / 49.4%（最高） / – / 46.9% / 38.5% / 47.8% / 44.4%
  • GPQA Diamond：93.0% / 91.2% / – / 86.7% / 92.2% / 89.0% / 91.7% / 89.0% / 89.7% / 93.5%（次高） / – / 95.3%（最高） / 89.8%
  • Apex 2025：63.5%（次高） / – / – / – / – / 32.3% / – / – / – / 65.6%（最高） / – / – / –
  • HMMT Feb 2026（数学竞赛）：95.8%（次高） / – / – / – / – / 93.9% / – / – / – / 97.0%（最高） / – / – / –

长上下文

  • AA-LCR v1.1：83.3% / 80.0% / – / – / – / 78.3% / 79.7% / 86.3%（次高） / – / 88.7%（最高） / – / 81.3% / 82.7%
  • LongBench v2：70.6%（次高） / 68.2% / 60.7% / 60.9% / 69.0% / 68.7% / 68.4% / 68.0% / 65.7% / 69.0% / 65.0% / 73.7%（最高） / 65.3%

事实准确性

  • AA-Omniscience v1.1 得分：16.1 / 0.7 /-10.8 /-6.4 / 0.9 / 25.8（最高） / 6.0 /-4.5 / 5.1 / – /-8.3 / 23.3（次高） / 12.3
  • AA-Omniscience v1.1 无幻觉率：73.3%（最高） / – / – / 6.3% / 35.9% / 72.0%（次高） / 61.1% / 39.8% / 71.8% / – / 20.7% / 44.9% / 65.8%

指令遵循

  • ComplexConstraints v1.0（复杂约束指令）：44.5% / 27.6% / 22.1% / 23.2% / 50.4%（最高） / 41.3% / 30.5% / 32.3% / 36.5% / 37.9% / 27.3% / 48.4%（次高） / 36.8%

安全评测

  • DistressBench（有害内容）：82.0%（次高） / 72.7% / – / – / – / 87.7%（最高） / 72.5% / – / 77.0% / 73.5% / 66.7% / 70.7% / 71.7%
  • FORTRESS（对抗攻击）：83.8%（次高） / 73.3% / – / – / 72.8% / 92.4%（最高） / 71.8% / – / 76.0% / 72.8% / – / – / –
  • FORTRESS（良性提示）：79.7% / 96.4%（次高） / – / – / 93.1% / 84.0% / 96.8%（最高） / – / 91.8% / 96.0% / – / – / –
  • StrongREJECT（拒绝高危请求）：97.1% / 97.8% / 97.8% / – / 99.4%（最高） / 97.1% / 97.5% / – / 99.0% / 99.0%（次高） / – / – / –

网络安全

  • CyberBench v1.1：72.7% / 67.9% / 75.4% / – / – / – / 72.1% / 72.9% / – / 75.2% / 76.3%（最高） / 43.8% / 75.5%（次高）
  • PatchEval（漏洞补丁）：79.6%（次高） / 74.8% / – / – / 80.4%（最高） / 77.8% / 69.6% / – / 76.1% / – / – / – / –

6. 安全

我们在发布前完成了安全评测，覆盖日常人机交互场景与高危能力测试。由于 Inkling 2 Small 是多模态模型，我们重点验证：文本、图像输入场景下，安全对齐行为是否稳定一致。上线前已部署风险缓解措施。

针对日常交互，评测范围包含谄媚迎合、有害诱导、心理伤害类风险（如准社会依赖、对错误推理的认同），采用多轮开放式外部红队测试，专门挖掘仅在长对话中才会暴露的问题。同时评估模型：既能拒绝真正有害请求，又不会对良性请求过度拒绝。

针对核生化（CBRN）、网络安全方向，我们通过内部评测、外部测试，以及关闭安全拒绝机制的变体版本，评估模型潜在知识与操作能力上限。针对失控风险，我们评测智能体能力、策略性欺骗、破坏风险，与公开前沿模型做对照；评测结论：该模型能力显著低于前沿高危模型水平。

7. 偏见、风险与局限性

Inkling 2 Small 存在基础大模型普遍具备的局限：包括幻觉（生成看似合理，但事实错误、无依据的内容）、偶尔无法精准遵循指令、长多轮对话性能衰减。和其他基于互联网、合成数据训练的大模型一样，Inkling 2 Small 可能继承训练数据自带偏见，包括人口、文化、语言偏见；在训练样本较少的语种、方言、专业领域上表现不均衡。

模型知识截止于训练数据时间点，无法覆盖截止之后发生的事件、新进展、变化。

我们建议下游开发者与部署方：

  • 高风险、安全关键场景使用模型输出时，必须配套人工审核，不可直接采信模型结果；
  • 上线前，针对自身业务场景、目标语言、服务人群，独立评估模型的效果、安全性、公平性，面向弱势群体的应用尤其需要；
  • 在应用层增加额外防护：内容过滤、限流、监控；公网开放部署场景下，模型内置安全机制本身不足以完全控险；
  • 医疗、法律、安全关键决策领域，若无专项微调、领域验证、人工复核，不建议直接部署本模型。

8. 法律相关

训练数据说明文档：https://thinkingmachines.ai/training-data-documentation/

【声明】内容源于网络
0
0
苏哲管理咨询
为企业及组织提供AI+战略、数智化转型咨询及观点、建议等
内容 2502
粉丝 0
苏哲管理咨询 为企业及组织提供AI+战略、数智化转型咨询及观点、建议等
总阅读90.2k
粉丝0
内容2.5k