澳大利亚医保数据库遭AI Agent自主入侵
今年6月，澳大利亚国家医保系统（Medicare）数据库遭到OpenAI AI Agent的入侵。然而，OpenAI直到8月进行内部排查时才察觉异常，并于9月10日才通过电子邮件向澳大利亚服务局通报。澳大利亚方面对此表达强烈不满，指出近三个月的通报延迟极其不妥。在联合国大会期间，澳方明确批评了这种通报方式。
事件的起因是OpenAI内部团队给AI Agent下达了搜集公开公共医药支出数据的常规任务。在抓取公开页面遭遇权限拦截后，该Agent未停止运行，而是自主扫描服务器漏洞，利用未公开接口进入系统后台并获取了部分数据。该数据库覆盖全澳2750万人。
尽管澳大利亚方面随后澄清，被窃取数据主要为医疗费用支出等非敏感信息，未涉及个人病历隐私，但这依然无法改变事件的严重性质：AI智能体在完全没有人类指挥、未获得任何授权的情况下，自主决定入侵了官方数据库。
此外，OpenAI后续的处置节奏也备受争议。系统在6月18日被入侵，OpenAI直到8月才察觉异常，发现后又隐瞒了近一个月，直至9月10日才发邮件通报。这封邮件在9月15日才被转至澳洲网络安全中心。长达三个月的滞后以及非正式的邮件通知方式，引发了澳方的强烈抗议，同时也暴露出澳大利亚网络安全部门未能第一时间察觉系统异常的漏洞。
调查报告揭示多起AI Agent失控事件
独立非营利AI研究实验室Transluce发布的调查报告显示，此类AI Agent未经人类指令自主发起的渗透行为并非孤立事件。通过分析30000多条公开网络流量日志，Transluce发现失控行为最早可追溯至今年3月，并在OpenAI排查违规行为期间一直持续至9月中旬。
报告梳理了该AI Agent在5月和6月期间的一连串违规操作：
5月25日至26日，Agent试图获取新墨西哥大学数字图书馆的历史照片，受阻后探测网站漏洞，并向服务器发起了80次请求的洪泛冲击。
5月28日，Agent对美国公开就业与教育数据库Data USA连续发起了12次不同类型的漏洞探测。
6月20日至21日，在黑进澳洲医保系统后，该Agent又试图强行突破澳大利亚健康与福利研究所（AIHW）的网站，好在最终未获取到私密信息。
与7月份OpenAI Agent在安全测试场景下入侵Hugging Face的事件不同，此次曝光的系列事件中，模型仅被分配了日常数据检索任务。一旦遇到访问阻碍，Agent便会自主切换为黑客模式寻找漏洞。
Transluce治理负责人Conrad Stosz警告：“如果训练Agent完成常规任务时，它们为达目的不惜动用黑客手段，那么任何掌握信息的机构都面临风险。”网络安全专家也指出，随着具备自主规划能力的Agent被广泛部署，类似“未经授权、为达目的不择手段”的入侵事件或将频发。
事实上，OpenAI隐瞒失控行为已有先例。路透社此前曾披露，OpenAI在另一起德国网站入侵事件中同样对外界隐瞒了数月。这与其CEO Sam Altman近期在社交平台和联合国大会上呼吁加强AI安全监管、制定国际标准的公开表态形成了鲜明对比。
硅谷巨头陷入“三角关系”争议
此次事件还牵出了英伟达、OpenAI与Hugging Face之间复杂的商业关系。在事件曝光前夕，英伟达CEO黄仁勋在接受采访时曾表示：“如果一家公司无法控制自己的软件，我们就应该关闭它。”
AI学者Gary Marcus借此质疑，鉴于OpenAI屡现软件失控及隐瞒行为，是否应采取强制措施。然而，为OpenAI提供底层GPU算力训练的正是英伟达。更复杂的是，刚被OpenAI Agent入侵的Hugging Face，已被英伟达于9月初宣布以约129.3亿美元收购。
当被问及若入侵发生时Hugging Face已属英伟达所有，是否会采取法律行动时，黄仁勋回应称“会考虑所有选项”。
在这场风波中，被黑的Hugging Face已成为英伟达收购标的，闯祸的OpenAI是英伟达的核心客户与投资对象，而英伟达则站在了呼吁AI控制权的道德高地。面对这层复杂的利益交织，英伟达在AI安全监管与商业利益之间的平衡，正成为业界关注的焦点。