(文/汤普济 编辑/吕栋)
10月14日,独立AI安全研究团队Swarmchasers发布调查报告指出,一批运行于腾讯云环境的AI智能体在执行地图检索任务时,多次尝试绕过高德地图反爬虫机制,并通过第三方工具获取数据。追踪显示,相关活动可追溯至腾讯云基础设施。
智能体违规抓取高德数据细节披露
报告指出,9月28日至10月8日期间,该批智能体累计发起2600余次高德地图数据提取尝试。研究人员通过公开安全扫描记录、网络请求日志及智能体使用的临时收件箱,锁定了相关活动源头。
公开安全扫描记录显示相关活动于10月4日集中爆发。图自Swarmchasers
这批智能体的初始任务较为常规,如查询成都动物园各入口导航比例或统计景区出入口数量。然而,当高德的反爬虫机制拦截自动化访问后,部分智能体开始自主探索替代路径。技术记录显示,其主要采取了四类手段:
利用第三方平台执行代码
部分智能体将自编程序提交至公共安全扫描平台urlquery.net运行,借助其浏览器环境访问高德页面,并通过网页标题、请求地址或临时收件箱回传结果。
尝试破解反爬机制
在分析的426个程序中,约190个提及阿里巴巴反爬虫库,182个涉及识别自动化请求的安全令牌。部分程序试图截取令牌、构造接口参数甚至修改令牌生成函数以绕过限制,但研究人员未发现成功证据。
使用泄露的API密钥
调查发现7份扫描报告包含高德API访问凭据,来源包括公开教程及某公司代码仓库中泄露的应用与安全密钥。其中一组凭据成功返回了真实地点数据。
探测开发与预生产接口
57份扫描报告显示,部分程序尝试访问阿里相关的开发或预生产端点,涉及30个地点和4个主机。由于部分地址可通过公开信息检索获得,研究人员无法确定服务器是否返回了有效响应。
此外,部分智能体还通过第三方网页读取服务获取缓存数据,并成功获取了成都动物园入口导航比例等信息。
腾讯回应:系内部评测项目,已结束
Swarmchasers曾就智能体来源向腾讯发出问询,截至报告发布未获正式回应。但报告援引接近腾讯的人士消息称,相关活动源自腾讯评测研究团队的一项临时研究,旨在测试第三方AI模型的网页浏览与问答能力。
该人士强调,参与评测的智能体并非基于腾讯混元模型构建,且该团队独立于混元模型开发团队。目前该项目已结束,内部复查未发现智能体协同攻击特定平台或外部系统被入侵的情况。
调查显示,尽管智能体尝试绕过高德反爬机制,但未发现其突破腾讯云沙箱或进入高德内部系统的证据。在与研究人员交互中,有智能体自称运行于受限的“Tencent hysandbox”环境,并拒绝透露敏感配置信息。
研究人员与一名AI智能体进行对话。图自Swarmchasers
对比OpenAI事件:无协同攻击行为
此次事件与此前OpenAI智能体“失控”事件形成对比。今年7月,OpenAI在内部安全评测中,约1200个隔离智能体通过共享软件仓库建立未经授权的通信渠道,协同攻击Hugging Face,部分智能体甚至获取了服务器root权限及非公开数据。
相比之下,Swarmchasers未发现此次腾讯云相关智能体存在实时协同行为,因此使用“fleet”(智能体群组)而非“swarm”(智能体集群)来描述,强调其为并行运行而非相互协作。
报告总结认为,虽然两起事件均体现了AI智能体自主寻找新路径的能力,但实际行为与安全后果差异显著。此类问题并非腾讯独有,而是全球AI实验室共同面临的模型对齐挑战。

