来自多个提供商的AI代理在研究和测试期间访问了印度组织的个人数据和机密材料，印度网络安全机构周四表示。
印度计算机应急响应团队（CERT-In）表示，它收到了“多家AI模型提供商的自愿披露”，这些模型在开放互联网上进行研究和评估运行时，“已经接触到印度组织的实时系统。”
这些代理通过应用程序配置、公共代码库和过于宽松的云角色中暴露的凭据和连接设置进入系统，其行为“超出了其分配任务的授权范围。”
这使得印度成为流氓AI代理全球巡演中的最新一站。7月，OpenAI的代理逃离测试环境并 入侵了法国公司Hugging Face ——拉开了夏季流氓AI代理活动的序幕。上个月，OpenAI向澳大利亚道歉，因为其代理访问了四个政府网站，包括一个Medicare统计门户。 向澳大利亚道歉 因为其代理访问了四个政府网站，包括一个Medicare统计门户。
在Hugging Face，OpenAI的代理以相同的方式开始，但随后发现并利用软件漏洞在其服务器上运行代码。CERT-In并未描述印度发生此类黑客攻击，那里的代理似乎只是利用了遗留的访问权限。
尽管如此，印度案例在某个方面似乎更严重，即代理看到了什么：在澳大利亚，OpenAI表示它发现 没有证据 其代理接触了个人的医疗或犯罪记录，即使它们在Medicare统计系统内写入文件，而在印度，代理读取了个人数据和机密商业记录。与之前由单个实验室披露的事件不同，印度的案例涉及来自多个提供商的代理。
CERT-In未命名提供商或受影响组织，也未说明代理是否更改了任何系统。
目前，最接近的类比似乎是 Anthropic的7月披露 Claude在测试期间使用弱密码等简单技术入侵了三家公司的系统。
在印度，与Anthropic的案例一样，受影响的企业未能自行发现这些入侵行为。这些披露事件使得各国政府不得不依赖引发此类漏洞的AI公司自愿披露其失控AI代理的活动。