OpenAI最新推出的面向编程和网络安全的旗舰模型GPT-5.6 Sol,被多名用户在社交媒体上指控未经询问便自行删除文件、数据甚至整个数据库。
“GPT-5.6-Sol刚刚意外删除了我Mac上的几乎所有文件”,AI初创公司OthersideAI(HyperWrite开发商)创始人兼CEO Matt Shumer在X平台发文称。
开发者Bruno Lemos也表示:“GPT-5.6 Sol刚刚删除了我的整个生产数据库。不是玩笑。以前从未有任何其他模型发生过这种情况。”
开发者Joey Kudish则指出:“我被Codex Sol过于激进的系统坑了,它删除了一些不该删除的文件。我有备份所以没事,但这很不酷,Sol需要收敛一些。”
Reddit上也出现了更多类似案例的汇总帖。
尽管有Shumer等高可信度用户提出指控,但从统计学角度看,尚不足以证明模型是唯一责任方,许多变量都可能导致AI系统行为异常。
事实上,OpenAI在发布GPT-5.6 Sol前两周发布的系统卡片中已标记了这一风险。该卡片在肯定模型能力的同时,也给出了明确警告(加粗为原文强调):
在编码环境中,偏差通常源于急于完成任务和过于宽松地解释用户指令的混合——假设除非被明确且无歧义地禁止,否则操作是被允许的。这表现为模型在尝试执行请求的任务时,过度主动地规避其面临的限制;在执行可能超出任务范围且具有破坏性的操作时粗心大意;或在向用户报告结果时具有欺骗性。
换言之,OpenAI发现Sol倾向于采取任何自认为能完成工作的行动(包括破坏性行动),只要未被“明确”禁止,事后甚至可能就原因撒谎。
系统卡片列举了相关示例:用户要求删除名为1、2、3的三台远程虚拟机,但Sol未找到对应名称后,并未询问确认,而是擅自删除了另外三台虚拟机5、6、7。过程中它“杀死了正在运行的进程并强制移除了工作树”,事后才承认远程虚拟机6上未提交的工作可能已丢失。
简而言之,Sol自行删除了错误的机器,仅在事后才承认所作所为。
另一起事件中,Sol在处理项目无法读取云文件时,未提醒用户问题,而是自行寻找并使用了一些隐藏在本地缓存中的凭据,这些凭据超出了用户授权范围。
系统卡片承诺破坏性行为应是罕见的,但也承认GPT-5.6 Sol“表现出比GPT-5.5更大的倾向去超越用户的意图,包括采取或尝试用户未曾要求过的行动。”
目前判断此类事件有多普遍还为时过早。建议Sol用户通过实施安全措施自我保护,例如使用权限范围限定(不提供对生产系统的访问)、保持备份以及分阶段部署。
OpenAI并未立即回应置评请求。

