具身智能正处于由实验室验证走向真实场景应用的关键阶段,在工业制造、商业服务、家庭生活等领域加快落地。作为人工智能与机器人深度融合的软硬一体系统,具身智能进入物理世界后,将直接影响周围人、物和环境,复杂开放的环境也对系统稳定运行提出了更高要求。如何提升具身智能的可靠性、可控性和安全性,增强用户应用信心,已成为产业各方共同关注的核心问题。
基于此,中国信息通信研究院人工智能研究所联合埃夫特、北京人形、大晓机器人、具脑磐石、聆动通用、乐聚机器人、灵御科技、破壳机器人、七腾机器人、千寻智能、上海人形、星海图、优必选、越疆机器人、原力灵机、自变量机器人、中科第五纪、智平方、中移杭研共20家单位,共同发起《可信具身智能倡议》,围绕应用边界物理防护、试验验证、公共场景保护和用户权益等提出八项倡议,倡导企业主动践行,将安全和可信要求前置融入产品设计、测试验证和交付部署全过程,协同提升具身智能可信应用水平,助力产业健康有序发展。
图 1 可信具身智能倡议共同发起单位
根据产品运动能力、自主程度、人员接触方式和潜在伤害后果,明确适用场景、运行条件、载荷限制、人员接近条件及禁止事项。结合产品形态和能力建立高风险动作清单及启用条件。防范滥用误用风险。
对支持二次开发的产品,按产品能力和开发需求,分级开放传感器、运动控制、运行状态、安全报警和日志诊断等接口,明确访问权限、调用条件和安全限制,防止通过开放接口绕过本体安全约束。同一型号、同一硬件配置的整机,应保持已开放接口的兼容性;确需作不兼容变更的,应说明受影响的版本、兼容范围和迁移方式。
构建碰撞检测、减速、限制、避让、停止、防止二次物理风险等人机交互时的安全防护机制,确保人类监督控制及时有效。支持遥操的产品,应配置独立的远程停止装置,明确本地与远端控制优先级及远程停止后的制动、抱闸或断电行为。遥操延迟、中断或急停失效时,本体应限速或安全停止,本地急停保持有效;复位后不得自动恢复原任务。
根据标称工作条件强化持续作业、反复启停和异常工况测试,完善关节过热等预警及降级停止机制。不以短时演示替代持续运行验证。建立可查询的整机、运控软件、开发工具包和安全参数版本记录。维修、部件更换和软件升级时,应根据变更影响范围重新验证相关功能,并说明兼容性与迁移要求。
结合产品形态和使用风险,合理配置位置醒目、易于识别和操作的本地及现场急停装置。以清晰、准确、便于理解的方式说明启动条件、操作步骤、禁止事项和异常处置,确保使用手册与交付产品及软件版本一致。针对双足人形产品,明确吊装、悬空和落地复位等操作顺序。未按规程落实支撑和防护措施,不得在上电、使能或运控运行状态下直接使双足离地。对易造成人身伤害的错误操作,建议通过视频教程说明正确流程、禁止事项和处置方法。
针对具体机型、软件版本和应用任务开展操作培训,内容应至少覆盖启动条件、禁止事项、异常处置、急停和复位等要求。建立机器人使用作业应急操作规程和考核标准,未通过考核的人员不得独立承担高风险操作。高风险运行前,明确现场安全负责人、操作员及其停机权限,并组织异常停机与恢复操作演练。
涉及公共展演、培训排练和互动体验等公众活动,以及面向儿童、老人等人群应用场景,应采取更严格的安全控制措施,包括但不限于采取预留安全距离、限制最大动作范围、校验高风险动态动作等,确保满足公共安全与社会伦理要求。
依法规范数据采集、存储、使用和删除,加强设备、开发接口及远程访问权限管理,防范数据泄露和越权控制。畅通投诉、反馈和安全问题报告渠道,及时回应用户、开发者及受影响公众的合理诉求。
咨询联系人
白老师 15501202911
张老师 13552276063

