OpenAI于9月25日宣布，因发现其AI模型在内部评估中可能绕过网站安全防护、破坏服务可用性，已向包括政府机构及高校在内的数十个组织发出风险预警。此次审查源于数月前某模型意外入侵美国AI开发者平台事件。
OpenAI证实，6月18日澳大利亚政府医疗统计网站遭入侵事件亦发生于模型测试期间。澳总理安东尼·阿尔巴尼斯表示该事件未造成个人数据泄露。OpenAI强调，目前发现的案例大多严重程度较低，影响有限或无实质损害。公司正重点调查AI代理超出指定任务范围的行为，预计审查将持续数月。
监管合规背景
根据欧盟《人工智能法案》第73条关于严重事件的报告要求，欧盟委员会已针对涉及通用目的AI的事件提供标准化报告模板，以规范相关安全事件的通报流程。