大数跨境

ICML 2026|港中大最新突破:真机训练半小时,成功率100%

ICML 2026|港中大最新突破:真机训练半小时,成功率100% AI科技评论
2026-07-03
29
导读:具身“抛弃”端到端神话。
具身智能“抛弃”端到端神话:FTC 框架实现真机半小时训练

作者丨齐铖湧

编辑丨岑峰

当前具身智能的真实困境在于:机器人完成抓取杯子等简单任务已无大碍,但在面对插 USB、挂钥匙等高精度接触任务时往往失效。这种需要精细力控的“接触任务”,已成为行业公认的能力分水岭。

据观察,这背后存在难以逾越的物理死局:视觉在接近目标时存在严重盲区,而真机强化学习(RL)成本过高,导致传统路线在“最后一毫米”均无法突破。

针对这一难题,香港中文大学(深圳)刘桂良团队联合跨维智能提出了一种面向真实机器人接触丰富任务的轻量级框架——Focus-Then-Contact(简称 FTC)。该方案通过“任务解耦”设计,让机器人先关注关键接触区域(Focus),再利用残差强化学习进行精细接触调整(Contact)。

FTC 系统框架图概览

实验结果显示,在卡片插入、挂钥匙扣、充电器抓取插入等 6 个真实物理接触任务中,FTC 不仅实现了100% 的成功率,更将平均真机训练时间缩短至27.5 分钟

困住人类专家的四大精细训练障碍

人类凭借视觉与触觉反馈的协同,可轻松完成钥匙开锁等精细操作。但对于机器人而言,该过程面临四重物理障碍:

第一,控制精度极高且容错率极低。无论是薄卡插入还是充电器对准,误差要求往往在毫米甚至微米级。微小的方向偏差即可导致金属碰撞卡死电机,甚至造成物理损坏。

第二,接触过程对力信号极度敏感。接触瞬间需实时调整关节刚度及进行力矩补偿,而视觉信号在此阶段无法提供有效的力度指导。

第三,环境位置泛化与背景干扰。真实场景中接口位置可能存在微小漂移。传统模仿学习一旦遇到未见过的初始位置(OOD),机器人极易失效。

第四,真机 RL 探索空间过于庞大。在真机上随机探索狭窄插槽如同大海捞针,稀疏奖励导致动作空间庞大且探索缓慢,训练耗时往往长达数天,难以落地。

此前学术界常采用“人机协同强化学习”(Human-in-the-loop RL),由人类专家在机器人失败时接管。但这极度消耗人力,若机器人学习效率低下,专家需长时间高强度介入。FTC 的出现旨在将人类专家从这种重复劳动中解放出来。

真机探索:打破端到端执念

FTC 的核心创新在于打破了“端到端学习所有动作”的执念,将原子任务分解为两个阶段:

  • Focus 阶段(靠近):利用行为克隆(BC)算法训练基础策略(如 ACT),负责将机械臂快速移动至目标区域附近。此阶段不涉及复杂受力调整,少量离线数据即可完成,执行时参数冻结。
  • Contact 阶段(细化):在靠近目标后,启用轻量级残差强化学习策略(Residual Policy),专注于最后几毫米的高频微调与精细接触。

以插 USB 为例,ACT 负责完成 95% 的路径规划,残差 RL 仅需专注最后 5% 的对准与插入。这种精密的动作分工,是 FTC 将训练时间压缩至半小时以内的关键保障。

构建连续“方向感”:关键帧视觉对齐奖励

在强化学习中,奖励函数的设计至关重要。传统的稀疏奖励(仅成功给分)会导致训练效率低下。虽然引入 VLM 或目标检测网络可提供视觉反馈,但其高延迟、高成本及在复杂光照下的不稳定性,使其难以应用于真机高频控制闭环。

FTC 设计了一种轻量且精准的“关键帧视觉对齐奖励”(Keyframe-Based Affordance-Guided Reward)

  1. 从人类离线示范轨迹中提取任务完成时的“目标关键帧”,记录成功接触的视觉状态。
  2. 将实时相机画面与目标关键帧裁剪至同一局部感兴趣区域(ROI)。
  3. 利用冻结的共享视觉编码器,计算当前图像与目标关键帧之间的视觉嵌入距离

视觉距离曲线随任务推进的变化趋势

当机器人动作使画面逐渐接近成功关键帧时,视觉距离减小,机器人获得连续、高频的密集奖励。该设计通过对比局部 ROI 特征,自动过滤背景噪声,使机器人在无监督情况下获得高质量连续反馈。

短干预窗口:让人类重拾平滑控制权

针对传统人机协同系统中存在的“控制权冲突”痛点(即人类接管与 RL 输出同时发生导致的剧烈抖动),FTC 引入了短干预窗口(Intervention Window)机制。

人类干预次数与步数的下降趋势对比

当检测到人类介入时,系统立即暂停 RL 输出并移交控制权;人类松开鼠标后,系统不会立刻抢回控制,而是等待一个短暂的安全时间窗。若期间无新输入,控制权才平滑交还给 RL。

这种机制不仅避免了硬件震荡,还将人类纠偏轨迹作为高质量“专家示范数据”存入缓存,供 RL 优先采样学习,显著降低了人工干预频率。

六项严苛任务验证 FTC 性能

研究团队在大族自控力矩协作臂及 Intel RealSense 双腕相机上,对插薄卡、拉抽屉、充电器抓取、挂钥匙扣等 6 个接触密集型工业级任务进行了真机测试。

测试结果表明,FTC 在所有任务上的成功率均为100%,平均训练时间压缩至27.5 分钟。即便在最难的 USB 困难版任务中,也仅在 45-50 分钟内完成驯服。

此外,FTC 展现出强大的位置泛化能力。在仅使用 4 个初始位置训练的情况下,面对 4 个从未见过的新位置进行盲测:纯模仿学习成功率仅 11.3%,而加入残差 RL 微调后,平均成功率提升至86.3%

行业冷思考:评价体系才是关键

当前具身智能领域热衷于卷 VLA 大模型与海量数据,但 FTC 的成果表明,决定高精度作业能力的往往是底层的控制解耦与评价机制。该研究为行业带来三点启示:

1. 别迷信全量端到端。将“粗对准”与“精细力控”分段处理,落地效率更高。

2. 优化人机协作模式。通过安全干预窗口平滑过渡控制权,避免将人类专家视为免费陪练。

3. 重视真实世界评价体系。降低真机试错成本、构建精准奖励模型,是抢占先机的关键。

该文章由香港中文大学(深圳)刘桂良团队联合跨维智能提出。

简介:刘桂良,现任香港中文大学 (深圳) 助理教授、博士生导师,深圳河套区域研究院(SLAI)具身智能实验室主任。本科毕业于华南理工大学,随后在加拿大西蒙菲沙大学获得计算机科学博士学位,并在加拿大滑铁卢大学和 Vector Institute 完成博士后研究。他的研究主要聚焦于强化学习和具身决策。他在 ICML, NeurIPS, ICLR, RSS, CVPR, TPAMI 等多个顶会和顶刊发表 50+ 篇论文。他的研究合作方包括百度研究院、华为诺亚方舟实验室和 DexForce Research。

论文标题 | Focus-Then-Contact: Speeding Up Robotic Contact-Rich Task Learning with Affordance-Guided Real-World Residual Reinforcement Learning

项目主页:https://edem-ai.github.io/FTC-website/

专访:一作乔冠仁对话 AI 科技评论

问:为何将“插准 U 盘”视为至关重要的挑战?

乔冠仁:工业和家庭真正需要的是机器人在环境变化时仍能稳定完成任务。插 U 盘本质是高精度、强接触任务,考验的不是单次演示,而是在真实物理世界中通过反馈不断修正误差,最终实现 100% 成功率的毫米级操作。

问:为何坚持在真实物理世界跑 RL,而非依赖仿真?

乔冠仁:仿真虽能提供低成本数据,但难以准确建模摩擦等关键物理因素。真实世界的接触任务复杂性远超仿真,直接在真机训练能更好地缩小 Sim2Real 的差距,尽管难度更大,但更具工程价值。

问:"27.5 分钟训练”是否意味着机器人已可“开箱即用”?

乔冠仁:这标志着真实世界强化学习的训练成本已从不可接受降至具有工程意义。虽然泛化到所有场景尚需时日,但在特定场景(如零售、物流)的落地有望在一两年内攻克。

问:具身智能最卡脖子的地方在哪?

乔冠仁:在于缺乏低成本、稳定、可扩展的真实世界闭环学习能力。机器人难在将理解转化为可靠的物理动作,并在失败后通过真实反馈快速修正。未来机器人必须具备在真实世界中试错、纠偏和适应的能力。

简介:乔冠仁,香港中文大学(深圳)博士三年级,研究主要聚焦于强化学习和具身操作应用。在 ICML, NeurIPS, ICLR, ICRA 等多个顶会共发表 10+ 篇论文,入选京东 TGT 人才计划实习。

个人主页:https://qiaoguanren.github.io

【声明】内容源于网络
0
0
AI科技评论
聚焦AI前沿研究,关注AI工程落地。
内容 8838
粉丝 0
AI科技评论 聚焦AI前沿研究,关注AI工程落地。
总阅读180.1k
粉丝0
内容8.8k