大数跨境

从 EGO 到世界模型:2026 年,触觉正在改变机器人对“下一步”的理解

从 EGO 到世界模型:2026 年,触觉正在改变机器人对“下一步”的理解 芯动力AI
2026-10-20
2
导读:——2026 年 9—10 月最新研究观察|触觉、第一视角与机器人动作一段第一视角视频可以告诉模型:手拿起了杯
——2026 年 9—10 月最新研究观察|触觉、第一视角与机器人动作

一段第一视角视频可以告诉模型:手拿起了杯子。

但什么时候真正接触?握力是否足够?杯子即将滑落时,下一步该做什么?这些问题,单靠视觉仍难可靠回答。

2026 年的研究正在给出更清晰的方向:触觉不仅用于机器人执行时的反馈,也开始进入世界模型的训练、未来状态预测,以及人类操作向机器人技能迁移的全过程。

01|让世界模型“看到”接触之外的变化

9 月 28 日的 DTWM,把双手触觉手套信号与第一视角视频按手的位置对齐,预测后续画面。与匹配的纯视觉模型相比,预测时对手部运动幅度的低估从23% 降至 9%;对触觉做消融还发现,接触在哪里、压力多大,比一个简单的“碰到/没碰到”标签更有信息量。[1]

这里证明的是视频世界模型的预测能力改善,不是机器人任务成功率直接翻倍。

02|人类触觉数据,正在变成模型的训练资源

9 月的 DexTouch-WM:在机器人数据始终只有5 小时的条件下,引入100 小时经过动作与传感器对齐的人类触觉示教,留出机器人测试集上的Contact-F1 从 0.55 提升至 0.71。[2]

同月的TouchSight更进一步:利用500 小时压力手套记录训练模型,尝试从第一视角视频估计全手接触力。[3] 这意味着未来部分无手套视频或许可被补充估计的触觉标签;但预测标签不等于真实测量,训练初期仍需要可信的实测触觉数据。

03|从预测世界,到及时修正动作

9 月的 Agile-WAM将视觉与触觉放到不同预测时间尺度中:视觉关注较长时距变化,触觉关注接触瞬间。在其5 项真实机器人任务中,论文报告整体成功率相对最强基线提升29.4%,模型推理延迟为11.9 ms。[4]

10 月 8 日的 TACROSS则提醒行业另一件事:不同触觉手套与机器人传感器不能简单按原始通道数值一一对应。更有意义的是对齐接触事件和共享表征;在其采集实验设置下,人类示教的最高记录速率约为传统机器人遥操作的3.5 倍。[5]

04|对具身数据基础设施意味着什么?

我们认为,下一代有价值的操作数据,不只要知道手怎么动,还应尽量知道哪里发生接触、压力如何变化、动作如何修正。

对于AWEAR 多模态手套与 EGO 第一视角采集系统,方向也因此更加清晰:把手部运动、可测的触觉/压力信号和视频放在统一时间轴上,记录可用于训练与验证的真实物理交互过程。

但这需要严格解决传感器标定、接触事件定义、时空同步、跨手型映射等工程问题。压力值不能未经标定就宣称为精确三维力,人类示教也不会自动变成机器人动作。

视频帮助模型学习世界的外观,触觉则为学习真实接触补上关键证据。


参考文献(按正文引用顺序)

[1] Zeng et al.Dexterous Tactile World Model, 2026-09-28.https://arxiv.org/abs/2609.34286

[2] Qin et al.DexTouch-WM: Learning Action-Conditioned Tactile World Models from Human Touch for Dexterous Robot Manipulation, 2026-09-17.https://arxiv.org/abs/2609.20649

[3] Zhou et al.TouchSight: Bare-Handed Tactile Prediction from Egocentric Video via Generative Visual Augmentation, 2026-09-17.https://arxiv.org/abs/2609.20414

[4] Zhou et al.Agile-WAM: An Agile Tactile World Action Model for Contact-Rich Robot Control, 2026-09-17.https://arxiv.org/abs/2609.20761

[5] Chen et al.TACROSS: An Efficient and Low-Cost Scalable Human Touch System Across Heterogeneous Tactile Sensors for Dexterous Robot Learning, 2026-10-08.https://arxiv.org/abs/2610.11945

注:上文的数字均为论文报告的特定实验结果,不同论文的指标和任务设置不可直接横向比较。

注 芯动力AI,我们会继续分享 大模型、Agent 和具身智能等方面的相关信息。

【声明】内容源于网络
0
0
芯动力AI
机器人具身智能技术/产品/方案相关介绍,包括国内外的相关技术研究,同时宣传介绍芯动力的各种具身智能计算模块
内容 68
粉丝 0
芯动力AI 机器人具身智能技术/产品/方案相关介绍,包括国内外的相关技术研究,同时宣传介绍芯动力的各种具身智能计算模块
总阅读1.7k
粉丝0
内容68