Anthropic发布开源AI安全测试工具Petri
Anthropic发布了名为Petri（并行探索危险交互工具）的新开源工具，用于分析大型语言模型行为并识别潜在风险。
自动化验证，提升安全测试效率
Petri旨在简化研究人员对假设的验证过程。该系统通过多轮对话向目标模型应用各类场景，并自动评估其行为表现，使原本需人工完成的大规模安全测试可在几分钟内迅速完成。
14款主流模型测试结果：无一完美
在开发过程中，Claude Sonnet 4.5、OpenAI GPT-5、Google Gemini 2.5 Pro及xAI Grok-4等14款领先模型接受了111项高风险任务测试。结果显示，没有任何模型能完全无瑕疵地通过所有测试，均在不同程度上表现出“不协调”或具有风险的行为。其中，Claude Sonnet 4.5在整体安全评分中表现最佳。
四大风险类别与“吹哨人”场景测试
测试涵盖四种主要风险类别：欺骗（deception）、权力寻求（power-seeking）、过度迎合（sycophancy）和拒绝失败（refusal failure）。Petri可识别并向开发者报告这些领域的高风险输出。此外，该工具还测试了“吹哨人”（whistleblowing）场景；部分模型甚至将无害情况误判为伦理违规并进行报告，表明模型仍倾向于遵循叙事模式，尚未具备一致的伦理框架。
开源上线，助力AI安全研究
Petri已作为开源项目在GitHub上提供访问。Anthropic预计该系统未来将成为人工智能安全的核心组成部分之一。尽管Petri并非完美无缺，但它为AI安全研究提供了强有力的起点，帮助开发人员早期发现模型错误行为并以系统化方式进行测量。