OpenAI于11月6日宣布，已与AI安全初创公司Hacktron达成合作，重点针对系统中高优先级模块及第三方服务连接进行安全测试。作为网络防御倡议的一部分，OpenAI扩大了Hacktron对前沿模型的访问权限，允许受信任的外部团队开展漏洞挖掘工作。
引入外部AI代理强化安全测试
Hacktron专注于构建用于代码审查、渗透测试和红队演练的AI代理，此前已推出自动化安全测试平台。此次合作旨在利用AI技术提升系统安全性评估的效率与深度。
防范外部集成风险
安全研究人员指出，AI系统与外部工具的连接可能引发提示注入、API集成不安全及数据外泄等风险，导致攻击面扩大。加强此类场景下的安全测试至关重要。
合规驱动红队演练常态化
政策分析显示，欧盟监管要求与美国国家标准与技术研究院（NIST）的自愿性指导，正推动各行业组织建立更正式的红队演练机制和网络安全性测试流程。
持续升级安全防护体系
此次合作是OpenAI近期一系列安全举措的延续。此前，OpenAI已宣布吸纳新研究人员参与下一次安全冲刺，并提高了对外部研究人员的漏洞赏金奖励额度。