大数跨境

WebMCP 可被用于劫持 AI 代理,Chrome 发出警告

WebMCP 可被用于劫持 AI 代理,Chrome 发出警告 搜索引擎报
2026-06-11
2
导读:Chrome 的 WebMCP 指南警告称,AI 代理可能被其被设计为信任的工具所操纵。

Google Chrome 近日发布安全警告,指出 WebMCP 工具可能被用于操纵和劫持 AI 代理。新指南详细阐述了攻击者如何在用户浏览器中,特别是在已认证会话内操控运行中的代理。为此,Chrome 分别面向网页开发者和 AI 代理开发者发布了两份针对性安全指南。

漏洞并非 WebMCP 特有

Chrome 在警告中明确两项免责声明:相关漏洞并非 WebMCP 独有,而是大语言模型(LLMs)和 Chrome 扩展程序的固有缺陷。

“虽然在没有 WebMCP 的情况下也存在此威胁,但我们已确定了一些对使用 WebMCP 的代理特别相关的安全技术。”

首先,即使未使用 WebMCP,AI 代理仍可能遭遇来自不受信任内容的恶意输入。其次,拥有主机权限的 Chrome 扩展程序无需依赖 WebMCP,即可通过执行自定义 JavaScript 操纵网页。

针对上述风险,Chrome 发布了以下两份指南:

  1. 《WebMCP 的代理安全考量》:面向 AI 代理开发者;
  2. 《WebMCP 工具的安全性》:面向构建 WebMCP 工具的开发者。

这两份指南共同提供了防范提示注入风险的指导,涵盖影响基于浏览器的 AI 代理及其工具的多重安全隐患。

AI 代理面临两大劫持风险

根据代理安全指南,使用 WebMCP 的 AI 代理需重点防范“恶意清单”和“受污染的输出”两种攻击向量。

  • 恶意清单:清单用于向 AI 代理描述工具名称、功能用途及输入参数。攻击者可能在清单的描述或参数中隐藏提示注入指令,旨在操纵或劫持代理行为。
  • 受污染的输出:指 WebMCP 工具返回包含恶意指令的信息。Chrome 警告称,即使是可信工具,若处理了第三方内容(如用户评论、论坛帖子等),也可能输出被污染的数据。

此类攻击之所以有效,是因为大语言模型将指令与数据作为单一令牌序列处理,难以可靠区分用户请求与隐藏的恶意指令。这种“间接提示注入”攻击在网络上的普及率正持续上升。

模型本身无法可靠阻断提示注入

Chrome 强调,不能单纯依赖模型来识别恶意指令。指南指出:

“大语言模型将所有文本、指令和用户数据视为单个令牌序列,这使其容易受到包含恶意指令的间接提示注入影响。尽管部分模型内置了安全层,但大语言模型的概率性质决定了无法在其内部保证绝对安全。”

安全研究人员已反复证实,即便是最先进的 LLM 代理系统也无法完全免疫此类攻击,且网络上的相关攻击活动日益频繁。

推荐采用分层确定性安全控制

鉴于模型的局限性,Chrome 建议采用结合确定性控制与概率性防护的纵深防御策略。确定性控制指可预测、基于规则的二元护栏,具体措施包括:

  • 对工具响应设置令牌限制;
  • 严格限制跨源交互;
  • 在执行敏感操作前强制要求用户确认;
  • 自动识别并隔离标记为不可信的内容。

此外,限制代理交互的网络来源可有效减少未经授权的操作和数据外泄风险,尤其是在代理处于已认证用户会话时。指南还强调必须保持“人在回路”,并将 WebMCP 工具默认视为具有状态修改能力,除非明确标识为只读。

为增强防护,Chrome 还推荐采用高亮显示不可信内容、使用提示注入分类器扫描工具描述及输出、以及引入次要“批评”模型在执行前评估工具调用计划等技术手段。

WebMCP 工具开发者安全规范

针对工具开发者,Chrome 建议使用注释提示帮助智能体正确处理输出。例如,当工具返回用户生成内容或外部信息时,应应用 untrustedContentHint 提示,表明该内容需接受额外审查。

对于不修改状态的工具,鼓励使用 readOnlyHint,以辅助代理准确判断是否需要用户确认。同时,Chrome 允许开发者通过 exposedTo 设置指定可信来源,限制访问范围。指南特别提醒,即使是只读工具也可能泄露用户信息,因此仅应与经过批准的站点共享。

核心要点总结

本次指南的核心在于承认提示注入仍是 AI 智能体的根本性挑战。Chrome 并未将模型改进视为唯一解法,而是假定攻击者会成功植入恶意指令。应对之道在于建立分层安全架构,综合运用访问控制、内容隔离、人工监督及独立验证系统。

最终,AI 智能体安全被视为 WebMCP 生态系统中代理开发者与工具开发者的共同责任。

【声明】内容源于网络
0
0
搜索引擎报
搜索引擎时报
内容 5673
粉丝 0
搜索引擎报 搜索引擎时报
总阅读4.0k
粉丝0
内容5.7k