大数跨境
首页
>
Anthropic 收购机密 AI 初创公司 Opaque Systems
>

Anthropic 收购机密 AI 初创公司 Opaque Systems

Anthropic 收购机密 AI 初创公司 Opaque Systems 数世咨询
2026-10-24
5
导读：Opaque Systems 开发了一项技术，能够让 AI 系统使用敏感数据，同时借助底层硬件保护这些数据的安全。Anthropic 已收购 Opaque Systems。该公司开发的技术能够让 AI
▍以下正文内容基于英文原文编译，可能存在语义偏差，请以原文为准。

Opaque Systems 开发了一项技术，能够让 AI 系统在使用敏感数据的同时，借助底层硬件保护数据安全。
Anthropic 已收购 Opaque Systems。该公司专注于机密计算技术，旨在让 AI 系统能够安全地处理敏感数据，同时降低数据泄露和未经授权访问的风险。
Opaque 上周宣布了这项交易，并表示其团队将加入 Anthropic。双方未披露交易的财务条款。
Opaque 最初是加州大学伯克利分校 RISELab 约十年前启动的一项研究项目。其创始人包括 Databricks 和 Anyscale 的联合创始人 Ion Stoica，以及加密和系统安全研究人员 Raluca Ada Popa，后者目前就职于 Google DeepMind。Aaron Fulkerson 于 2023 年 10 月加入公司担任首席执行官。
Opaque 将其机密计算研究成果转化为可用于生产环境 AI 部署的技术。随着业务发展，该公司逐渐将研究范围从保护数据和模型扩展到更广泛的领域，包括 AI 智能体的治理与行为验证。

AI 智能体面临的安全挑战

Opaque 指出，企业正在赋予 AI 智能体越来越广泛的操作权限，使其能够读取电子邮件、查询客户关系管理（CRM）系统和数据库、执行交易，以及采取可能对现实世界产生实际影响的行动。
然而，这也带来了两方面的安全问题。
首先，AI 智能体的行为具有非确定性，无法保证它们始终只执行用户明确要求的任务。智能体可能调用不应使用的工具、访问超出任务范围的数据，甚至执行未经任何人批准的操作。
其次，智能体拥有的这些访问能力也可能被攻击者利用。一封电子邮件、一份文档或一张客户支持工单，都可能包含隐藏的恶意指令。这些指令一旦劫持 AI 智能体，就可能诱使其在不易被察觉的情况下，将企业内部数据传输出去。
Opaque 表示，治理机制不可靠，是企业不愿让 AI 智能体接触敏感数据或关键系统的最常见原因。企业已经具备赋予智能体操作权限的能力，但尚未建立与之相匹配的信任机制。

现有防护措施为何仍然不足？

Opaque 认为，行业内大多数解决方案都试图从内容层面应对上述问题，即通过为 AI 智能体设置安全护栏，对输入和输出内容进行检查与过滤。
这类防护措施具有一定作用，但仍存在局限。一方面，持续运行的过滤机制可能带来较高成本；另一方面，由于 AI 系统的行为具有非确定性，过滤器难以准确预测系统的所有行为，也无法识别每一条隐藏的恶意指令。
Opaque 认为，要建立更加持久、可靠的解决方案，需要从三个层面构建防护体系。
  • 内容层： 检查 AI 系统的输入和输出，识别潜在的恶意内容。这一层是必要的，但仅靠它无法提供充分保护。
  • 治理层： 决定 AI 智能体被允许执行哪些操作，包括可以调用哪些工具、访问哪些数据，以及采取哪些行动。
  • 机密计算层： 在软件自身难以提供充分保障的情况下，通过底层硬件强制执行相关限制，约束智能体能够访问的资源。即使智能体出现异常行为或遭到操纵，也能阻止数据通过未经批准的路径泄露，并生成可供独立验证的证据，证明相关安全规则得到了执行。

Opaque 的技术方案：从治理到可验证执行

Opaque 表示，其技术方案覆盖了传统内容过滤机制之下的两个关键层面：软件治理层和机密运行时环境。
其中，软件治理层可在 AI 系统的构建阶段引入，用于定义并执行智能体的操作权限。企业可以在试点阶段明确智能体能够执行的操作，在系统投入生产环境之前建立相应的治理机制。
另一项技术是 OPAQUE Confidential Runtime，即 OPAQUE 机密运行时环境。它能够在硬件层面执行针对相关工作负载制定的治理规则，并生成可供独立验证的证据，证明这些规则得到了执行。
Opaque 表示，企业可以在构建 AI 智能体时对其进行治理，随后将其部署到机密运行时环境中；企业也可以直接将任意容器部署到该环境中，从而使相关治理措施具备可验证性。
该公司将这一方案概括为三个步骤：决策、执行、证明。 Opaque 认为，这并非单一的产品功能，而是 AI 智能体安全体系中长期缺失的关键基础层。

Opaque 将进一步推进可验证 AI

Opaque 表示，随着 AI 技术的发展，公司最初试图解决的问题也在发生变化。仅仅保护数据和模型已经不够，企业还需要一种能够独立验证 AI 系统及智能体行为的方式。
因此，Opaque 将研究方向从机密 AI 扩展至可验证 AI：通过密码学证据证明系统实际运行了什么、运行在什么位置，以及运行过程中遵循了哪些策略，从而减少对传统信任假设的依赖。
该公司还与更广泛的社区合作，推动多个旨在解决 AI 智能体和模型信任与安全问题的开源项目，包括 Agent Governance Toolkit、TRACE、Confidential MCP 和 Weight Custody Manifest。

Opaque 融资及后续安排

今年，Opaque 完成了 2400 万美元的 B 轮融资，估值达到 3 亿美元。该公司此前曾将 Anthropic 列为客户，其他客户还包括 ServiceNow 和 Accenture。
Opaque 目前已在官网声明，其团队将加入 Anthropic，继续推进相关工作，而 Opaque Systems 将逐步结束运营。
该公司尚未说明，逐步结束运营将如何影响现有客户。


* 注：图片均来源于网络，无法联系到版权持有者。如有侵权，请与后台联系，做删除处理。
— 【 THE END 】—

【声明】内容源于网络
0
0
数世咨询
中国数字化领域独立的第三方服务机构，提供网络安全行业的调查、研究与咨询服务。
内容 1191
粉丝 0
数世咨询 中国数字化领域独立的第三方服务机构，提供网络安全行业的调查、研究与咨询服务。
总阅读14.1k
粉丝0
内容1.2k