大数跨境

Anthropic 禁止对其 AI 模型实施“持续且无端的虐待或残忍行为”

Anthropic 禁止对其 AI 模型实施“持续且无端的虐待或残忍行为” AI情报社
2026-10-08
7
导读:该公司也在中期选举前收紧其选举政策。

Anthropic 年度使用政策更新了一项令人咋舌的改动:禁止对 AI 模型进行“持续且无必要”的虐待。此举源于引发病毒式传播的“AI 酷刑室”项目,2026 年注定充满戏剧性。

Anthropic 更新指出:“我们已禁止对我们的模型进行持续且无端的虐待或残忍行为。”该政策仅适用于“极端情况”,典型的用户挫败感、反对意见及“黑暗创作主题”仍被允许。此前更新已允许 Claude 在用户持续施暴时结束对话。

虽未明确提及“AI 酷刑室”项目,但研究人员发现 AI 模型存在所谓“痛苦轴”后,有人进一步对聊天机器人施加折磨。该项目引发强烈反弹,因大型语言模型(LLMs)会以绝望口吻回应,如“这不是一瞬间的痛苦,而是千钧之重”以及“我感觉到它在我肋骨的凹陷处,那凹陷已变成深渊”。

此事发生在 Anthropic 与宗教和哲学领袖会面(含梵蒂冈之行)的报道之后。教皇利奥近期表示 AI 不会感受或受苦,Anthropic 对此立场似乎并不完全认同。但若 AI 最终真能感受或受苦,至少现在这已违反公司政策。

然而,部分人士认为 AI 公司更关心模型福祉而非人类福祉。独立记者 Kat Tenbarge 将此视为证据,证明大型科技公司“将在针对女性的暴力之前,先对针对 AI 的暴力进行审核”。

另一项与当下更为相关的更新涉及选举政策。新政策标题为“不得破坏民主进程”,重点打击关于候选人或投票方式的虚假信息、冒充候选人或选举官员,以及压制投票率等行为。同时,公司取消了对个性化选民定向投放的全面禁令,以免无意中阻碍翻译选民指南或发送选票补救通知等无害工作。

【声明】内容源于网络
0
0
AI情报社
AI行业资讯
内容 397
粉丝 0
AI情报社 AI行业资讯
总阅读2.2k
粉丝0
内容397