
具身智能真正走向产业现场后,一个越来越现实的问题浮现出来:
模型究竟应该变得更大,还是应该学会更有效地思考?
在真实物理世界里,AI面对的并不是一道可以一次性回答的问题。机器人看到一个工作台,需要判断物体在哪里、彼此之间是什么空间关系;当视角发生变化,需要重新理解物体的深度和位置;当目标被遮挡,又需要根据有限观测推断完整状态;当现场发生变化,还需要重新判断此前的规划是否成立,并决定下一步动作。
这意味着,物理世界中的智能,本质上是一种持续修正的认知过程。
它不是“看一眼—给答案”,而是:感知 → 判断 → 发现不确定性 → 再计算 → 修正状态 → 再规划。这恰恰构成了轻量化模型长期面临的一道难题。
参数规模小,意味着部署成本低、响应速度快,更适合机器人、工业设备和边缘终端;但复杂空间以及具身任务又要求模型具备足够深的推理能力。传统路径往往是在两者之间做取舍:要更强的推理,就增加模型规模和计算量;要更低的部署成本,就接受模型能力的下降。
9月15日,紫东太初正式开源 ZDTaichu5.0-9B,解决的正是这个矛盾。模型在保持 9B 轻量化参数规模的同时,引入自适应循环推理机制,让模型不再对所有问题使用同样的计算量,而是根据任务复杂度以及当前不确定性动态决定“需要想多久”。
简单任务,快速完成;复杂空间任务,则在模型内部增加计算轮次,对当前状态进行持续校验和修正。
这不是简单地让一个小模型“多想几遍”,而是在尝试改变轻量化模型获得推理能力的方式: 不盲目增加参数,而是让有限参数获得更深的有效计算。
过去几年,多模态大模型解决了一个重要问题:AI开始能够同时理解图像、文字、视频等不同模态的信息。
但进入机器人、智能制造、科研自动化等真实场景后,“看见”只是第一步。
当机器人面对一个制造业场景。它需要知道的不只是“桌面上有一个零件”,而是:零件具体位于什么位置? 它与机械臂、工具之间是什么关系?当前视角看到的是零件的正面还是侧面?如果零件被部分遮挡,它的完整形态可能是什么?如果机器人移动一点位置,刚才的空间判断是否仍然成立?如果目标位置发生变化,原来的动作规划是否需要调整?
这些问题有一个共同特点:它们不是独立的问题,而是连续关联的。前一个判断会影响后一个判断,新的观测又可能推翻之前的判断。所以,物理世界中的智能并不只是“更强的视觉识别”,而是需要模型建立一个能够不断更新的内部状态。这也是传统大模型推理方式开始遇到的瓶颈。
从部分可观测决策的角度,持续认知根据截至当前的观测与已执行动作,估计环境可能处于哪些状态:
其中, 为真实环境状态, 为观测历史, 为动作历史。新观测到来后,系统需要更新 ,再据此调整决策。这解释了具身任务为什么需要持续更新状态。
一种典型路径是不断扩大模型规模,通过更多参数和更强算力提升复杂任务能力。但对于机器人、工业边缘设备等场景而言,模型越大,部署成本、显存需求和实时响应压力也越高。
另一种路径是 CoT(思维链),让模型把复杂问题拆解成多个步骤,通过生成更多 Token 展开推理。
但物理世界并不天然以文字 Token 的形式存在。
当机器人面对一个遮挡场景时,真正需要被反复修正的,不只是“下一句话应该怎么说”,而是对场景本身的理解: 物体的位置有没有判断错?深度关系是不是存在歧义?视角变化是否改变了空间关系?当前动作规划是不是建立在一个错误的空间状态之上?如果只是继续生成更多文字,并不意味着模型就真正重新计算了这些空间关系。
因此,物理AI需要的并不只是“更长的思维链”,而是另一种计算方式:
当问题变复杂时,让模型本身获得更多内部计算,并将这些计算用于修正自身对世界的理解。
自适应计算研究让网络按输入分配计算步数,循环深度研究则通过复用共享模块,在隐空间中增加执行深度。对当前生成位置 ,一个简化表示为:
*左右滑动可查看完整公式
是内部迭代次数, 为当前多模态输入和已生成上下文提供的条件, 为隐状态; 是共享参数的迭代模块, 概括后续网络层和输出读出。多轮计算复用同一组参数,因此执行深度可以增加,而无需为每一轮新增一套权重。实际更新还需配合后文的稳定约束。
这一机制与CoT可以协同使用。CoT同样会更新隐状态,也能够支持空间推理;隐空间循环的特点,是不必把每次追加的内部计算都展开为新的文字Token。
ZDTaichu5.0-9B的自适应循环推理,核心就在这里。
传统模型通常采用相对固定的计算路径:输入进入模型,经过既定层级的计算后输出结果。但真实任务的难度并不是固定的。一张清晰的图片里,目标位置非常明确,模型可能一次计算就足以完成判断;而面对遮挡、视角变化、多物体空间关系或者连续任务规划时,一次计算得到的结果可能并不可靠。如果所有任务都使用最高计算量,简单任务会浪费大量算力;如果所有任务都使用最低计算量,复杂任务又容易出现判断不足。
真正合理的方式,是让计算量跟着问题难度走。这就是“自适应”的意义。
ZDTaichu5.0-9B并不是简单让模型固定循环若干次,而是让模型根据当前任务状态决定是否需要进一步计算。
自适应循环推理要解决的是:让模型针对当前内部状态继续计算,并在新的计算结果基础上更新判断。这意味着,循环发生的核心并不是“语言表达”,而是认知状态的持续优化。
可以把它理解为一个动态的认知过程:
①快速初判,保障基础效率。
模型先完成一轮快速分析,给出初步的识别、判断或规划结果。对于多数简单、清晰的场景,这一结果已经足够准确,可实现极速响应,保持高效的运行优势。
②自主校验,识别不确定风险。
得到初步结果后,模型不会直接输出,而是主动自查:当前判断是否稳妥、当前Token不确定性是否较高、是否需要继续进行计算画面信息是否清晰、位置关系是否明确。通过自我评估,精准分辨“可靠结果”和“存疑结果”,从源头规避隐性错误。
③智能计算,内部循环迭代。
模型根据自查结果灵活调整工作模式。简单无误的场景直接输出答案,保证高速响应;遇到画面模糊、物体遮挡、角度偏移、规划难度大等不确定性高的的复杂场景,模型会自动触发内部循环计算。
④迭代优化,稳定输出结果。
在每一轮循环中,模型持续修正判断偏差、优化空间位置、完善行动规划,反复打磨细节,直到判断结果足够稳定、精准,再输出最终结论
标准前向计算先产生当前Token的预测分布,再决定是否追加隐空间计算。其触发形式可写为:
*左右滑动可查看完整公式
表示词表, 表示阈值。分布较集中时走常规输出路径,熵超过阈值时触发追加计算。这里直接估计的是当前输出的不确定性,而不是场景客观难度或错误概率:高熵也可能源于多个合理表达,低熵也不能排除自信错误。因此,可靠性还需结合视觉证据、任务约束和执行结果检验。
如果当前结果已经足够稳定,计算可以及时结束;如果模型发现当前状态存在较高不确定性,则继续进行内部迭代。因此,模型获得的并不是简单意义上的“更多计算”,而是:把计算集中在真正困难的地方。这对于9B模型尤其重要。
轻量化模型的能力上限,从来不只是参数少,而是单位参数能够承担多少有效计算。 当模型能力增长不再依赖参数堆叠,在固定参数规模下,依靠更优的内部计算机制提升有效推理深度,“轻量化”与“强能力”便可达成新的平衡。
这也是自适应循环推理对于9B模型的意义所在。
从资源分配角度,“按需计算”可以概括为误差与成本之间的联合优化:
是决定是否继续计算的策略, 为任务误差, 为推理成本, 表示应用对成本的重视程度。这是自适应计算的理论目标。其含义是:追加计算应当带来足以补偿成本的预期收益,循环次数本身并不是优化目标。
但让模型循环并不难,难的是让它有边界地循环。
如果模型不知道什么时候应该停止,循环越多并不一定越准确,反而可能带来延迟增加、错误累积甚至状态偏移。 因此,自适应循环推理真正需要解决的是三个问题:
什么时候继续? 继续计算什么? 什么时候停止?
ZDTaichu5.0-9B围绕这一问题设计了相应的稳定机制。
首先,是阻尼更新机制,防止迭代跑偏,对每一轮状态更新进行约束,避免单次异常判断对后续结果造成过大影响。循环的目的不是让模型无限修改,而是让内部状态逐步趋于稳定。
阻尼与初始状态锚定的作用总结如下:
*左右滑动可查看完整公式
控制候选更新的幅度, 控制初始表征的锚定强度。每轮保留部分旧状态、吸收新的计算结果,并通过初始表征约束漂移。 固定点理论提供了一个稳定性分析视角。若在迭代保持其中的闭合不变区域内, 关于隐状态的Lipschitz常数为 ,则上述映射的一个收缩充分条件为:
满足条件时,状态差异会随迭代收缩,趋向该映射的固定点。阻尼本身不能保证任意网络收敛,锚定过强也可能限制必要修正;状态收敛表示计算趋于稳定,其任务正确性仍需单独检验。这一条件性分析不构成对具体模型的收敛证明。
其次,是双重停止判据,平衡精度与速度,通过停止条件控制计算边界。当当前结果已经达到稳定状态时及时结束;面对复杂任务,则限制最大计算范围,避免推理成本不可控。
输出分布与隐状态可以提供互补的稳定性信号。令相邻两轮的分布差异和相对状态残差分别为:
KL散度衡量预测分布的变化,相对残差衡量内部表征的更新幅度, 用于避免分母为零。以两类信号同时稳定为例,一种保守的停止规则是:
前一项表示当前迭代趋于稳定,后一项规定最大计算预算。达到预算上限只表示计算必须结束;若关键歧义尚未消除,系统仍可进一步补充观测或检查操作前提。
再次,是状态回滚与轨迹读出,提升复杂场景稳定性,对推理状态进行记录和管理,使循环过程具备更好的稳定性和可控性。
轨迹读出的理论意义,是允许最终输出来自已记录的候选状态,而不强制采用最后一次迭代。其一般形式为:
为运行时可计算的代理评分,并不是真实任务风险的直接测量。回退时还需要保持隐状态、输出分布与推理缓存的一致性,避免使用彼此不匹配的状态继续生成。
因此,自适应循环推理真正的工程价值,不是“让模型多算”,而是:让模型知道什么时候值得继续算,以及什么时候已经足够。这也是它能够从实验性技术走向真实设备的重要前提。
走到这里,ZDTaichu5.0-9B真正值得关注的地方就不只是“9B”这个参数数字。
真实环境要求模型面对持续变化的状态、不完整的信息和不可预设的任务。
这意味着模型需要的不只是更大的知识容量,还需要实时计算、状态更新和动态推理能力。
自适应循环推理提供了一种不同的技术路径: 把模型能力提升,从“增加多少参数”,进一步推进到“如何使用计算”。
这并不意味着循环计算可以无限替代参数规模,而是意味着:
在参数规模受到约束的情况下,模型仍然可以通过增加有效计算深度,把更多计算资源用于真正困难的空间理解、状态判断和任务规划。
对于9B模型而言,这一点尤其重要。
因为轻量化模型的价值,不只是“更小”,更在于能够以相对可控的算力和延迟进入机器人、工业设备和边缘终端。
如果模型能够根据任务难度动态分配计算,那么9B就不再只是“大模型的缩小版”,而是在探索一种新的模型工程范式: 有限参数 + 动态计算 + 空间状态迭代。
对包含 个输出Token的一次生成,计算成本可近似分解为:
*左右滑动可查看完整公式
包含输入编码与预填充成本, 为常规解码成本, 为实际追加轮次; 应计入循环层与候选输出评估等开销, 包含门控、状态选择和缓存管理。参数复用不消除额外计算成本,不增加显式Token也不等于零时延增量。产业价值需要在同一硬件与任务协议下,结合任务成功率、平均及P95时延、峰值显存和循环触发比例共同衡量。
从数字世界走向物理世界,AI面对的最大变化,是答案不再是一次性生成的。
机器人每执行一步动作,环境都可能发生变化;
每获得一次新的视觉信息,原来的判断都可能需要更新;
每一个错误的空间判断,都可能传导到后续动作。
因此,未来的具身模型需要具备一种新的能力: 不仅能够理解当前世界,还能够判断当前理解是否足够可靠。
自适应循环推理的意义,正在于此。
它让模型不再被固定的计算路径束缚,而是能够根据任务复杂度动态调整内部计算:
简单问题快速回答,复杂问题深入推演; 确定状态及时停止,不确定状态继续校验。
对于ZDTaichu5.0-9B而言,9B不再只是一个参数规模,而成为探索轻量化物理智能的一种技术载体。
从更长的技术路线看,紫东太初正在推进的,也不只是空间具身理解能力的增强,而是从原生多模态出发,进一步建立面向物理世界的感知、认知、推理、规划与行动能力。
内部循环与外部闭环分别作用于两个层次:前者在给定观测和上下文下更新表征,后者通过动作执行、新观测和设备反馈更新后续规划。
内部计算可以重新组织已有证据,却不能凭空获得遮挡背后的信息。当不确定性主要来自观测不足时,调整视角或补充传感信息可能比继续迭代更有效。多模态模型承担空间理解与高层规划时,还需与运动规划、设备接口和底层控制协同,形成可以验证的任务闭环。
当模型开始学会在有限计算预算下决定“什么时候该快速判断,什么时候该继续思考”,物理AI需要的就不只是一个更大的模型。
而是一个更懂得如何使用自身计算能力的模型。
未来,紫东太初将持续迭代自适应循环推理体系,持续优化空间感知、动态决策、具身规划能力,持续输出轻量化、高精度、高稳定性的国产AI基础能力,赋能智能制造、服务机器人、科研自动化、智慧装备等产业,推动物理具身智能技术规模化落地。
🌟ZDTaichu5.0‑9B 火热开源中!
期待广大开发者、科研伙伴、产业伙伴基于 ZDTaichu5.0‑9B 开展创新探索、产业落地实践,共同丰富国产大模型生态,推动 AI 技术赋能千行百业!
开源地址:
Blog:https://taichu-ai.github.io/ZDTaichu5.0-9B
Huggingface:https://huggingface.co/TaichuAI/ZDTaichu5.0-9B
Modelscope:https://www.modelscope.cn/models/TaichuAI/ZDTaichu5.0-9B
Github:https://github.com/Taichu-AI/ZDTaichu5.0-9B/


