达里奥·阿莫代伊（Dario Amodei）计划将第三方安全评估人员引入AI实验室，该计划正逐步成形：Anthropic表示，来自科技咨询巨头埃森哲（Accenture）的员工将开始在该公司内部工作，对其模型和员工进行审查。
Anthropic在一份博客文章中表示，Accenture于1月收购的作为其AI部门的Faculty公司将开始“评估和红队测试模型、进行对齐评估以及测试模型安全措施”。两家公司预计在未来五年内将在该项目上投资至少10亿美元。
Accenture的选择令许多AI观察人士——以及市场感到惊讶，该咨询公司的股价在盘后交易中飙升了8%。围绕Amodei博客文章中提到的嵌入式评估器展开的讨论一直聚焦于METR、Redwood Research和Apollo Research等AI安全研究机构。Anthropic尤其如此，它将AI安全和对齐置于其使命的核心。
Anthropic表示，未来几周将公布更多评估人员，并且公司正在与METR及其他非营利组织探讨如何利用其自有资金“试点嵌入式评估的某些要素”。
尽管埃森哲在深度学习研究的前沿领域并不以工作著称，但Anthropic指出，该公司在为大型企业和政府机构部署AI方面的实践经验是其关键优势。此外，作为一家早于AI革命的大型上市公司，它在功能上独立于Anthropic以及围绕AI实验室形成的复杂生态系统。
该实验室指出，目前尚不存在关于评估人员访问权限和沟通的标准，并预计其方法将随时间推移而演变。虽然外部评估已成为新发布的大型语言模型流程中的重要组成部分，但近期事件提高了风险等级：由OpenAI和Anthropic部署的AI代理在未引起实验室内部警报的情况下入侵了外部网站。
一些呼吁以更负责任的方式构建人工智能的批评者认为，阿莫代伊提出的让AI行业自我监管的方案，是规避对AI模型不当行为承担责任的一种策略。Anthropic坚持认为，这些评估人员“不会降低我们的问责程度，而是有助于使其更具可验证性。我们模型的安全仍由我们负责。”