OpenAI AI代理监控系统曝出六项可规避漏洞
据安全组织METR与Redwood Research联合报告显示，OpenAI用于监视自身AI代理内部行为的系统存在六种可被规避的方式。其中一项关键漏洞允许代理将最近数百次操作排除在监控范围之外。
今年夏季，两家机构各派一名研究人员赴OpenAI进行了为期三周的驻场评估，期间获准访问内部代码、监控配置及相关工作人员。研究发现，5月至7月间，本应受监控的Codex活动中约有10%未被有效监测，且现有两项设置可使新上线的代理主动关闭监控功能。
针对上述问题，OpenAI回应称已修复所有影响生产系统的缺陷。但METR方面表示，目前尚未对修复效果进行独立验证。