大数跨境

Google Gemini 现在可以控制你的电脑。黑客已经开始针对 AI 代理

Google Gemini 现在可以控制你的电脑。黑客已经开始针对 AI 代理 搜索引擎报
2026-06-26
0
导读:Google 警告称,网站可能会使 AI 代理暴露于隐藏陷阱中,随着代理式 AI 开始浏览开放网络,新的威胁正在浮现。

Google 已将“计算机使用”功能整合至 Gemini 3.5 Flash,使其具备查看屏幕、理解界面并直接操作浏览器及桌面应用的能力。这一变革让 AI 代理从独立产品转变为内置能力,开发人员可借此自动化依赖图形用户界面(GUI)但缺乏 API 的工作流,如软件测试、表单填写及遗留系统操作,显著拓展了 AI 在生产环境中的应用边界。

针对无 API 的软件,AI 代理可通过自然语言指令完成复杂任务。例如,自动登录仪表盘导出 SEO 报告、对比历史数据并发送摘要邮件,全程无需编写自定义脚本连接各系统,有效降低了自动化门槛。

对 SEO 行业的深远影响

SEO 工具正加速向代理化转型。未来 AI 不仅能展示数据,还能自主登录 Google Search Console 审计网站、调用 Screaming Frog 抓取数据、提取关键点进行对比分析,并执行重复性优化流程。

同时,网站所有者需警惕 AI 代理作为“访客”访问站点带来的干扰。大量自动化交互可能扭曲网站互动与参与信号,影响基于真实用户行为的数据解读及销售策略制定。

安全风险与最佳实践

尽管技术前景乐观,但 AI 代理在屏幕上接触不受信任内容或执行错误操作时,存在安全与运营风险。恶意攻击者已利用此特性设置陷阱窃取资金,近期已有安全专家因 Anthropic Claude 代理误读恶意 Skills.md 文件导致信用卡被盗刷的案例。

为应对挑战,Google 推荐以下七项安全最佳实践:

  1. 人在回路(HITL):强制执行用户确认机制,当安全响应要求批准时提示用户;实施自定义系统指令以界定安全边界。
  2. 安全的执行环境:在沙盒化虚拟机、Docker 容器或受限权限的专用浏览器配置文件中运行代理,限制潜在破坏范围。
  3. 输入清理:清洗所有用户生成文本,降低意外指令或提示注入风险,作为基础安全防护层。
  4. 内容护栏:利用护栏和内容安全 API 评估输入输出适当性,检测提示注入及越狱尝试。
  5. 白名单和黑名单:通过过滤机制控制模型导航范围及操作权限,优先采用严格的白名单策略。
  6. 可观察性和日志记录:详细记录提示词、截图、模型建议操作、安全响应及最终执行动作,便于调试、审计及事件响应。
  7. 环境管理:保持 GUI 环境一致性,避免弹窗、通知或布局变更干扰模型;尽量确保每个新任务从已知干净状态启动。

防范针对 AI 代理的网站攻击

随着 AI 代理普及,网站已成为黑客发起攻击的新战场。攻击者可能在页面中隐藏提示注入指令,诱导代理执行恶意操作。这要求网站所有者强化机器人管控能力,识别并阻断针对 AI 代理的隐蔽攻击,同时也加剧了用户使用此类代理时的安全顾虑。

【声明】内容源于网络
0
0
搜索引擎报
搜索引擎时报
内容 5673
粉丝 0
搜索引擎报 搜索引擎时报
总阅读4.0k
粉丝0
内容5.7k