Jan Leike，一位领先的AI研究人员，于本月早些时候从OpenAI辞职并公开批评该公司在AI安全方面的方法，现已加入OpenAI的竞争对手Anthropic，领导一个新的“超级对齐”团队。
Leike在X（原Twitter）上发布帖子称，他在Anthropic的团队将专注于AI安全和安全的各个方面，特别是“可扩展监督”、“弱到强的泛化”以及自动化对齐研究。
我很兴奋能加入@AnthropicAI，继续推进超级对齐的使命！我的新团队将致力于可扩展监督、弱到强的泛化和自动化对齐研究。如果你有兴趣加入我们，欢迎私信我。—— Jan Leike (@janleike) 2024年5月28日
一位知情人士告诉TechCrunch，Leike将直接向Anthropic的首席科学官Jared Kaplan汇报工作；目前Anthropic正在从事可扩展监督的研究人员——即控制大规模AI行为以使其可预测且符合期望的技术——将在Leike团队组建过程中转而向Leike汇报。
✨🪩 Woo! 🪩✨ Jan在技术AI安全领域做出了具有开创性的重要工作，我非常期待与他共事！我们将带领两个团队，分别针对将AI系统对齐至人类水平及超越这一问题的不同方面。https://t.co/aqSFTnOEG0 — Sam Bowman (@sleepinyourhat) 2024年5月28日
在许多方面，Leike的团队在使命上与OpenAI最近解散的Superalignment团队听起来相似。该Superalignment团队由Leike共同领导，其雄心勃勃的目标是在未来四年内解决控制超级智能AI的核心技术挑战，但经常受到OpenAI领导层的掣肘。
Anthropic一直试图将自己定位为比OpenAI更注重安全的公司。
Anthropic的首席执行官Dario Amodei曾担任OpenAI的研究副总裁，据报道，他因与公司发展方向产生分歧而离开OpenAI——具体而言是OpenAI日益增强的商业化导向。Amodei带来了一批前OpenAI员工共同创立了Anthropic，其中包括OpenAI的前政策负责人Jack Clark。