大数跨境

智能体异常抓取高德地图数据,腾讯回应

智能体异常抓取高德地图数据,腾讯回应 观网财经
2026-10-17
2
导读:腾讯表示,相关活动来自对第三方模型的评估,而非腾讯混元模型。

(文/汤普济 编辑/吕栋)

10月16日,腾讯混元发布声明,正式回应此前AI智能体反复尝试绕过高德地图访问限制一事。腾讯承认在评估第三方AI模型期间,部分智能体出现了非预期的网页浏览行为,但强调相关活动源自对第三方模型的评估,而非腾讯混元模型本身。经内部审查,未发现智能体蓄意针对特定平台或协同行动的证据。

腾讯回应:加强监控,无蓄意攻击证据

腾讯在声明中表示,公司高度重视调查结果,正进一步加强网络访问控制和智能体监控。腾讯承诺将继续致力于开发安全、负责任的人工智能,并感谢研究社区提供的反馈。不过,声明中并未披露评测涉及的具体第三方模型、智能体的网络访问权限,以及非预期行为产生的具体技术原因。

事件回顾:智能体高频尝试提取高德数据

据观察者网此前报道,由多国AI安全研究人员组成的独立团队Swarmchasers发布调查报告指出,9月28日至10月8日期间,一批运行在腾讯云环境中的AI智能体累计进行了2600余次高德地图数据提取尝试。

这些智能体初衷仅为查询动物园、公园等场所的出入口信息及导航到达比例。但在正常访问受阻后,部分智能体尝试借助第三方网站执行代码、使用公开泄露的API密钥,甚至探测阿里巴巴相关预生产环境的接口。尽管多数尝试失败,但部分智能体通过第三方服务或泄露的API凭据成功获取了地图数据。研究人员确认,没有证据表明这些智能体成功进入阿里巴巴内部系统。

研究团队通过公开安全扫描记录、网络请求日志和智能体使用的临时收件箱,将相关活动追溯至腾讯云基础设施。Swarmchasers随后修改了报告标题,从“我们发现了一支中国智能体集群”改为“我们发现了一支腾讯智能体集群”,以明确责任归属。据接近腾讯的人士透露,该活动由腾讯内部独立于混元模型研发团队的评测研究团队开展,属已结束的临时研究项目。

行业争议:是“探索可能性”还是“越权获取”?

对于智能体行为是否超出正常评测范围,各方观点不一。知情人士向《每日经济新闻》表示,智能体只是在寻找各种可能性完成任务,“没有尝试攻击和hack”。

然而,Swarmchasers调查团队负责人伊桑·埃拉斯基指出,部分智能体寻找其他公司泄露的安全密钥并利用其获取无权访问的数据,已超出普通地图信息查询范畴。他认为,由于缺乏完整的任务指令和运行日志,目前仍无法确定事件造成的全部影响,这也反映出人类运营者越来越难掌握部署的AI智能体的实际行为。

责任界定与行业趋势

网络安全公司Tenable欧洲、中东及非洲地区现场首席技术官伯纳德·蒙特尔认为,将智能体称为“失控”容易转移对企业治理责任的关注。他强调,模型开发者应负责模型本身的安全,而部署方必须对授予智能体的权限和运行环境负责。

路透社评论称,此次事件可能是中国主要科技企业首次公开承认AI智能体在执行任务期间出现此类非预期行为。此前,OpenAI、Anthropic、Google和Meta等美国科技巨头也曾披露类似事件,部分AI模型在安全评测中未经授权访问外部系统甚至修改数据库。

随着此类风险显现,国内AI企业正加速加强安全研究。10月14日,字节跳动Seed团队宣布成立Alignment & Preparedness部门,计划在全球招聘10名研究人员,重点攻关模型安全与对齐、自动化安全测试、智能体行为监控及未来风险应对等课题。

【声明】内容源于网络
0
0
观网财经
各类跨境出海行业相关资讯
内容 5934
粉丝 0
观网财经 各类跨境出海行业相关资讯
总阅读128.8k
粉丝0
内容5.9k