你会信任一个能访问公司系统的 AI 智能体吗？把员工交给自动驾驶汽车？部署一个必须理解不可预测的物理世界的机器人？
对 AI 创始人来说，这些已不再是假设性问题。随着 AI 从演示走向企业、车辆、机器人和自主智能体，安全与保障已成为产品的一部分。
在 TechCrunch Disrupt 2026 上，AI 舞台和现实世界 AI 舞台上的五个环节将这些挑战置于焦点。从确保智能体安全到将企业级 AI 投入生产，以下是创始人可以深入了解如何构建人们和企业真正信任并使用的 AI（人工智能）的关键所在。
1. Anthropic 在企业实际部署 Claude 时看到了什么
一些企业正从 AI 中获得可衡量的价值，另一些企业在 18 个月后仍在运行试点项目。为什么？
Anthropic 应用 AI 负责人 Cat de Jong 提供了近距离视角。她直接与企业客户合作，将 Claude 部署到关键工作流中，观察哪些部署取得成功、哪些停滞不前，以及两者之间的区别。
在“What Anthropic Sees When Enterprises Actually Deploy Claude”中，de Jong 将在 AI Stage 探讨当公司从实验性使用 AI 转向将其投入生产时会发生什么。对于试图向企业销售 AI 的创始人来说，她的经验提供了一个第一手的视角，解释为何某些部署能带来真正的价值，而其他则仍停留在试点阶段。
2. 无人谈论的智能体安全问题
能够采取行动的 AI 智能体也会带来全新的安全问题：它应该拥有哪些权限？允许它做什么？当应用层面的权限不足以应对时，会发生什么？
在 AI Stage 会议“无人谈论的智能体安全问题”中，Okta 产品与技术总裁 Ric Smith 和 NanoCo 联合创始人兼首席执行官 Gavriel Cohen 将探讨基础设施层面的智能体安全问题，包括应用层权限模型的弱点，以及创始人在部署智能体 AI 时需考虑的架构决策。
如果智能体在产品路线图之上，安全也应如此。
3. 保护 AI 企业：为什么云环境变得复杂得多
让 AI 产品进入企业大门，不仅仅需要一个令人印象深刻的演示。当公司考虑将 AI 引入关键系统时，安全、治理和可观测性都成为了讨论的一部分。
在 AI Stage 会议“保护 AI 企业：为什么云环境变得复杂得多”中，AWS 安全服务副总裁 Rudy Mitra、Luta Security 首席执行官 Katie Moussouris 以及网络安全资深专家 Wendy Nather 将探讨随着 AI 承担更多自主角色，企业所需的基础设施。
对于正在构建企业级 AI 的创始人来说，这是一个了解当创新与企业客户的安全要求相遇时会发生什么的机会。
4. 在失败不可接受的情况下构建 AI 系统
在物理世界中运行的 AI 提高了风险等级。错误不会仅仅停留在屏幕上，它可能会影响车辆、飞机、工业系统和关键任务。
在现实世界AI舞台上，Shield AI首席技术官Nathan Michael、通用汽车机器人战略总监Mikell Taylor以及Waabi创始人兼首席执行官Raquel Urtasun将结合国防与自主系统的视角，探讨硬科技创始人面临的最棘手问题之一：如何判断一个自主系统是否足够安全以进行部署？
“构建不容有失的AI系统”这一对话将深入探讨建立安全文化、测试与验证AI、应对监管障碍，以及在失败后果具有物理危害的情况下打造能够赢得信任的企业。
当失败不可接受时，测试绝不能被视为事后之举。来看看自主领域的领导者如何在Disrupt大会上应对安全问题。
5. 机器人正在等待它们的 ChatGPT 时刻。以下是阻碍因素
机器人存在数据问题，它们无法访问那些帮助加速语言模型和自动驾驶汽车进展的海量训练数据池。这一差距是扩展实体AI的最大障碍之一。
在Real World AI环节“机器人正在等待它们的ChatGPT时刻。以下是阻碍因素”中，Nvidia Inception全球实体AI负责人Les Karpas将探讨数据管道、仿真环境和基础模型如何帮助缩小这一差距，以及需要付出哪些努力才能构建、测试并部署更强大、更可靠的机器人。
对于从事物理 AI 工作的创始人，该会议探讨了一个重大问题：机器人需要付出怎样的努力才能达到属于自己的 ChatGPT 时刻，并获得信任以在现实世界中部署这些系统？
五个环节。每个 AI 创始人都必须回答的一个问题
人们能信任您正在构建的东西吗？这五场对话是Disrupt大会（将于10月13日至15日在旧金山Moscone West举行）200多场会议中的部分活动，涵盖六个行业舞台、圆桌讨论和分组会议。预计将有超过10,000名创始人、投资者、运营人员和科技领袖出席，以及250多位演讲者、300多家参展初创企业和无数社交机会。
你可以构建更智能的模型、能力更强的代理，或完成前人未竟之事的机器人。但让客户信任到足以部署的程度，可能是将其推向市场过程中最困难的部分之一。
聆听AI领袖如何应对阻碍突破性技术走向实际采用的安全、可靠性和安全性挑战。
