两台机器人隔墙而立,互不可见且指令独立,需轮流担任队长与队员完成抓取接力。对人类而言这是简单的沟通协作,但对机器人来说,即便单机视觉识别精准,若无法感知队友的动作节奏,协作依然难以达成。
星尘智能近期通过实测打破了这一僵局:在未共享信息时,两台机器人的协作成功率为 0%;引入全新的信息共享机制后,成功率提升至 100%。更关键的是,该机制无需传输全部画面,相较于每步传递 160 个视觉 Token 的通用方案,新机制仅用 32 个上下文 Token(传输量降低 80%)即完成任务。
11 月 13 日,星尘智能正式发布多机协同框架——CoMind(Be My Eye 框架),相关研究论文《Be My Eye: Learning to See Beyond a Robot's Own Perspective》已提交至 arXiv。作为业界首个主动共享、精选任务上下文的多机协同模型框架,CoMind 旨在解决具身智能领域中多台机器人如何真正配合而非简单拼接单机能力的问题。
隔墙配合从 0% 到 100%
为验证多机协作的真实水平,星尘智能在两台 Astribot S1 机器人上设计了控制变量实验,人为制造“视野盲区以暴露传统方案短板。
隔墙交替取笔实验
该实验考验双机的双向信息同步与角色切换。两台机器人分立于遮挡板两侧,面前各摆红、蓝、黑三支笔。每轮测试分两阶段:第一阶段由 A 按指令拿笔,B 需隔墙判断 A 所持颜色及状态并跟随抓取;第二阶段角色互换。限制条件为:机器人仅在当“领队”时知晓目标颜色,当“跟班”时无额外提示。
研究团队对不同颜色组合与顺序共进行 48 组测试,结果显示:
不共享信息时,跟班机器人只能盲猜,整轮序列成功率为 0%;
接入 CoMind 后,双机通过实时共享目标特征与执行进度,48 组测试实现 100% 零失误配合。
盲盒置物实验
该实验直接检验“A 看到的线索能否转化为 B 的正确行动”。桌上三只盒子,工作人员随机将蓝色盘子放入其一。机器人 A 全程可见,执行放置任务的机器人 B 视线被完全遮挡。A 保持静止仅提供信息,以剥离动作同步干扰。
测试结果呈现反直觉对比:
什么都不传:B 靠局部视角盲猜,准确率仅为 38.9%。
转发完整视觉特征(160 个 Token):准确率提升至 72.2%,但仍有近三成失误。
CoMind 精选共享(32 个 Token):通信量削减 80% 后,准确率反而飙升至 88.9%。
少传数据反而更准,原因在于完整视觉流包含大量无关背景和冗余细节,直接输入动作模型会干扰决策。在真实场景中,如搬运大件家具时的自身遮挡、双臂装配时的背面盲区等,决定下一步动作的关键线索往往只掌握在队友摄像头里。
从叠被子到冰箱补货
除定量对照实验外,星尘智能还展示了四项贴近真实生活的高难度双机协作实测:纸箱补货、叠被收纳、冰箱补货与组装哑铃。这些任务代表了紧耦合协作中的三类核心挑战:
高频物理接触下的盲区同步(纸箱组装与组装哑铃):大尺寸纸箱立起后会遮挡主视角,双方需同步推挤撑开箱体,并在确认对侧扶稳后松手;穿哑铃片时,操作方难以同时看清杆与孔的动态相对位置,需队友毫秒级补全空间对齐关系。
动态形变中的连续配合(叠被收纳):被子形状、边缘与受力持续变化,双机无法依赖预设固定轨迹,必须在连续接触中实时对齐动作。
视角互补下的高效接力(冰箱补货):守在冰箱前的 A 看得见空位但背对操作台,守在岛台前的 B 看得见饮料但看不见冰箱内部。双方通过视角互补完成拿取递送,A 还能借助 B 的视野确认桌面清空后关闭冰箱门。
砍掉 80% 无效画面
传统多机协作常陷入“调度太慢”和“沟通太浅”的两难。中心化调度虽擅长宏观分工,但在毫秒级物理交互中,通信延迟会导致配合僵硬;去中心化方案则要么因文本沟通缺乏空间细节,要么因全盘转发视觉特征造成带宽拥堵与噪声干扰。

CoMind 的技术本质是一套以任务为条件、端到端联合优化的双向潜空间上下文共享接口。它不强求集中式模型接管所有机器人,而是直接挂载在各台机器人预训练的视觉—语言—动作(VLA)策略上,通过两阶段训练让机器人学会“只提纯并传递影响队友决策的关键信息”。
第一阶段:任务导向的上下文压缩
每台机器人将头部与双腕多视角相机画面结合当前任务指令,压缩成固定预算的紧凑潜空间 Token(默认 32 个,每步单向通信量仅 144 KiB)。团队设计了双重学习目标以过滤无关背景:
面向任务的未来预测:借助视觉—语言模型评估画面区域与任务的相关性并加权,只保留能预测未来关键状态变化的视觉信息。
软标签任务进度对比学习:让压缩特征隐含“正在执行哪项任务”及“当前推进步骤”的时序进度。队友收到的不再是冗余图像,而是类似“我已扶稳箱壁、准备翻折”的高浓缩状态信号。

第二阶段:对称双向共享与“动作级反向传播”
两台机器人配备完全对称的编码器与策略接口,没有写死的“主机/从机”标签,谁的视野有关键线索谁就自动成为信息输出方。接收端将队友传来的上下文与本地视觉、语言指令及本体状态融合,直接生成连续动作。
核心工程设计在于联合微调:训练时,接收方动作执行偏差产生的梯度(Loss)会顺着通信链路反向传回发送方的上下文编码器。这意味着,发送方该提炼什么特征,不再取决于“画面还原得像不像”,而是由“能不能帮队友把动作做对”来反向定义。
消融实验印证了设计权重:在隔墙取笔任务中,若拿掉任务进度对比学习,流程得分从 100% 暴跌至 68.9%;若冻结第一阶段编码器不做联合微调,得分为 83.3%,放开联合优化后才达到 100%。
需客观指出的是,现阶段 CoMind 的“主动共享准确含义是“以任务为条件的主动信息提纯”,而非机器人自主决定通信时机与对象,异步通信和选择性路由被列为下一阶段研究方向。
多机协同的下一步
CoMind 为具身智能演进提供了轻量化协作思路:开发者无需从零训练控制所有肢体的超级集中式大脑,可以让单机保留独立决策策略,通过低带宽的潜空间特征交换建立紧耦合默契。
参考资料:
CoMind 项目页:https://www.astribot.com/en/AI/CoMind/
研究论文《Be My Eye: Learning to See Beyond a Robot's Own Perspective》:https://arxiv.org/abs/2611.12295

