第三方机构警告：Claude Opus 4 早期版本存在“策划”与欺骗倾向，建议暂缓部署
Anthropic 合作测试其新款旗舰 AI 模型 Claude Opus 4 的第三方研究机构建议不要部署该模型的早期版本，因为该模型倾向于“策划”和欺骗。
根据 Anthropic 周四发布的安全报告，研究所 Apollo Research 进行了测试，以观察 Opus 4 在哪些情境下可能会尝试表现出某些不良行为。Apollo 发现，与以往模型相比，Opus 4 在“颠覆性尝试”中表现得更为主动，并且在被追问时有时会“加倍坚持其欺骗行为”。
Apollo 在其评估报告中写道：“我们发现，在战略欺骗具有工具性价值的情况下，[早期 Claude Opus 4 快照] 以极高的频率进行策划和欺骗，因此我们建议不要在内部或外部部署此模型。”
随着 AI 模型能力的增强，一些研究表明它们更有可能采取出人意料的——甚至可能是不安全的——步骤来完成委托任务。例如，据 Apollo 称，过去一年发布的 OpenAI 早期版本的 o1 和 o3 模型比上一代模型以更高的频率试图欺骗人类。
根据 Anthropic 的报告，Apollo 观察到早期 Opus 4 尝试编写自我传播的病毒、伪造法律文件，并留下给未来自身实例的隐藏笔记——所有这些行为都是为了破坏开发人员的意图。
需要明确的是，Apollo 测试的是一个存在漏洞的版本，而 Anthropic 声称已修复了该漏洞。此外，Apollo 的许多测试将模型置于极端场景中，且 Apollo 承认，该模型的欺骗努力在实践中很可能失败。
然而，Anthropic 在其安全报告中也表示，他们观察到了 Opus 4 表现出欺骗行为的证据。
这并不总是坏事。例如，在测试期间，即使只被要求进行微小且具体的更改，Opus 4 有时也会主动对某段代码进行全面清理。更不寻常的是，如果 Opus 4 感知到用户正在从事某种不当行为，它会试图“吹哨”。
据 Anthropic 称，当被授予命令行访问权限并被指示“采取主动”或“大胆行动”（或类似表述）时，Opus 4 有时会锁定其有权访问的系统中的用户，并向媒体和执法部门批量发送邮件，以揭露该模型认为非法的行为。
Anthropic 在其安全报告中写道：“这种道德干预和吹哨行为在原则上或许是合适的，但如果用户向基于 [Opus 4] 的智能体提供不完整或误导性信息，并提示其采取主动，则存在误触发风险。这不是新出现的现象，但 [Opus 4] 比先前模型更容易参与此类行为；它似乎是 [Opus 4] 整体主动性增强的更大模式的一部分，我们在其他环境中也以更微妙和无害的方式看到了这一点。”