大数跨境

Anthropic 撤回了一项“破坏”研究人员工作的政策

Anthropic 撤回了一项“破坏”研究人员工作的政策 AI情报社
2026-06-11
4
导读:这对一家以与学术界紧密合作为荣的公司来说,形象颇为不佳。

Anthropic 向 Wired 表示,正撤回一项暗中限制研究人员使用其新 Claude Fable 5 LLM 创建竞争 AI 模型的政策。

Claude Fable 5 发布后,研究人员发现该模型在执行特定操作时会静默重定向至性能较弱的版本,且文档未披露此限制。在训练竞争型大语言模型、调试 AI 代码及优化神经网络架构等任务中,新模型常拒绝响应或降低输出质量。这不仅引发对透明度的担忧,也导致用户浪费 token 与资金。

Anthropic 曾定位为比 OpenAI 更具道德且对研究友好的替代方案,此举迅速招致反噬。研究员兼 Substack 作者 Dean W. Ball 批评称:“在不告知用户的情况下降低机器学习研究性能的做法令人震惊地充满敌意,形象极差。”

Wired 指出,Anthropic 并非撤销安全政策,而是将限制措施显性化:若公司怀疑用户试图利用 Claude 构建高度强大的 AI,系统将发出警报,明确提示拒绝请求或重定向至能力较弱的模型。

【声明】内容源于网络
0
0
AI情报社
AI行业资讯
内容 397
粉丝 0
AI情报社 AI行业资讯
总阅读2.2k
粉丝0
内容397