AI聊天机器人可能会给出错误答案，而控制飞机、车辆或机器人的AI系统一旦失误，则可能导致停飞、相撞或任务失败等严重后果。当人工智能进入物理世界，如何判断一个自主系统已真正准备好走出实验室？
在TechCrunch Disrupt 2026“构建不容许失败的AI系统”环节中，Shield AI首席技术官Nathan Michael、Waabi创始人兼CEO Raquel Urtasun及通用汽车机器人战略总监Mikell Taylor将齐聚现实世界AI舞台，共同探讨这一核心议题。
本次讨论将深入剖析高风险环境下部署AI的关键工作：建立安全文化、测试验证系统、应对监管障碍以及赢得信任。
准备好执行任务了吗？
在Shield AI，Nathan Michael负责领导跨平台任务自主软件Hivemind的开发与部署。他拥有丰富的人工智能、控制、感知和多机器人系统经验，曾在卡内基梅隆大学机器人研究所担任弹性智能系统实验室主任多年。
这些专业知识正被应用于最高风险环境的AI技术设计。今年2月，Hivemind入选美国空军协作式战斗无人机原型计划自主性提供商；次月，Shield AI宣布完成15亿美元G轮融资，投后估值达127亿美元。
Michael将在大会上分享其在高性能与高保障并重环境中开发自主系统的见解，探讨信任AI执行任务所需具备的条件。
准备好上路了吗？
Raquel Urtasun深耕人工智能与自动驾驶领域25年。创立Waabi前，她曾任Uber ATG首席科学家兼研发负责人，同时是多伦多大学计算机科学教授及Vector人工智能研究所联合创始人，发表AI论文超200篇。
如今，Waabi正推动自动驾驶技术向更广阔领域拓展。今年1月，公司融资10亿美元并宣布与Uber合作，支持部署超2.5万辆由Waabi Driver驱动的无人驾驶出租车。
测试和验证是Waabi方法的核心。其Waabi World模拟器可在虚拟环境中对系统进行训练、测试及压力测试。Urtasun强调，无人驾驶卡车在实现完全无人化部署前仍需全面验证，这也正是会议探讨的核心问题：如何确定AI系统在无需人类驾驶员时已具备运行能力？
准备好与人协同工作了吗？
Mikell Taylor致力于实用机器人研发二十余年，现负责通用汽车自主机器人中心的机器人战略。此前，她曾领导Amazon Robotics团队开发出首款自主移动机器人Proteus。
Taylor的机器人职业生涯始于高中毕业舞会机器人舞伴项目，此后参与了从水下自主航行器到工业机器人系统的多种研发，专注于打造实用、可靠且能与人有效协作的机器人。
她的经验揭示了现实世界中机器人的根本挑战：用户体验和采纳度必须作为产品设计与部署规划的一部分纳入考量。当AI驱动设备离开受控演示环境进入实际工作场所时，人为因素至关重要。
在Disrupt了解如何判断AI是否已准备就绪
无论是飞机、自动驾驶汽车还是工业机器人，尽管应用场景各异，但都面临同一关键问题：当失败后果真实存在时，自信部署需要付出什么代价？
对于构建自主系统的创始人和技术领导者而言，本次研讨会提供了宝贵机会，可对比国防、自动驾驶及工业机器人领域领导者的决策逻辑，推动系统从前景广阔迈向实际应用。
本次研讨会是Disrupt大会的重要组成部分。该大会将于10月13日至15日在旧金山Moscone West举行，涵盖六个行业舞台、圆桌会议及分组讨论等200多个活动。预计将有超万名创始人、投资者、运营人员及科技领袖出席，汇聚250多位演讲者和300多家参展初创企业。除议程外，配对洽谈、交易撮合和网络交流也将助力建立推动发展的关键联系。
当失败不可接受时，“差不多准备好”远远不够。
