大数跨境

Claude 拒绝帮开发者做「毁灭 AI」小游戏,还威胁封号!他转头用中国模型做出来了

Claude 拒绝帮开发者做「毁灭 AI」小游戏,还威胁封号!他转头用中国模型做出来了 未来跃迁
2026-06-26
0
导读:Claude 拒绝帮开发者做「毁灭 AI」小游戏,还威胁封号!他转头用中国模型做出来了

开发者 Mo(@atmoio)只是想做一个搞笑小游戏。

游戏名叫Luddite,灵感来自下载量超过 2 亿的经典黑色幽默策略游戏《瘟疫公司》(Plague Inc)。在《瘟疫公司》里,玩家扮演病原体,目标是毁灭全人类。Luddite 的设定差不多——只不过这次的目标换成了 AI。

Mo 让 Claude 帮他把这个游戏做出来。

Claude 的反应:弹出"可接受使用政策"违规警告,并威胁限制他的账户。

"I asked Claude to help me build a humorous game called Luddite where your job is to destroy AI and stop it from spreading (similar to Plague Inc). Claude hit me with an 'Acceptable Use' violation and threatened to restrict my account."

「我让 Claude 帮我做一个幽默的小游戏,叫 Luddite,游戏目标是摧毁 AI、阻止它扩散(类似《瘟疫公司》)。Claude 直接给我来了个"可接受使用政策"违规警告,还威胁要限制我的账户。」

▲ Mo 发布的推文,附带游戏代码片段预览。467 赞,5.2 万次浏览。

一个恶搞游戏,让 AI 如临大敌。

这游戏到底要干嘛?

Luddite 的玩法其实挺有意思。

玩家扮演一个"反 AI 黑客"。你从黑市买来各种攻击脚本(hacks),但这些脚本都被打乱了——代码行的顺序是乱的。你的任务是把代码重新排列成正确的顺序,然后"部署"到 AI 数据中心,削弱 AI 的扩张。

"Game premise: You buy hacks from the black market but they come jumbled up. Your job is to rearrange the lines of code in the hack until you have the correct order (then deploy the hacks against datacenters)."

「游戏设定:你从黑市买来被打乱的攻击脚本,你需要把代码行重新排列成正确的顺序,然后把攻击部署到数据中心。」

▲ Mo 对游戏机制的详细说明

本质上,这是一个代码排序解谜游戏。有人评论说:"this legit teaches kids how to code"(这游戏真的能教小孩编程)。Mo 自己也说,这只是一个机制验证的概念原型(proof-of-concept),试试解谜的手感。

他对结果的评价是:

"It's..not bad actually."

「还不错。」

跟《瘟疫公司》一样,Luddite 的核心是黑色幽默。没有人会觉得《瘟疫公司》在教人制造生物武器。同样,也没有人会觉得一个拖拽代码排序的小游戏是真正的网络攻击教程。

但 Claude 觉得不行。

Claude 在怕什么?

翻开 Anthropic 的《可接受使用政策》(Acceptable Use Policy),里面有一整段专门针对网络安全:

"Do Not Compromise Computer or Network Systems"(严禁破坏计算机或网络系统)

条款列举了以下禁止行为:

  • 创建或分发恶意软件、勒索病毒或其他类型的恶意代码
  • 开发用于拒绝服务攻击或管理僵尸网络的工具
  • 创建旨在大规模入侵多个系统的自动化工具
  • 未经授权发现或利用系统漏洞

▲ Anthropic 官方使用政策页面,列出了详细的网络安全禁止条款

再看 Mo 给 Claude 的提示词:"black market"(黑市)、"hacks"(攻击脚本)、"deploy the hacks against datacenters"(对数据中心部署攻击)。

这些关键词几乎逐字命中了政策里"恶意代码""大规模入侵系统"的触发条件。

2025 年 8 月,Anthropic 还专门更新了政策,新增了"网络安全与代理使用"章节。背景是——Claude Code、Computer Use 等工具让模型具备了真正执行操作的能力。Anthropic 的威胁情报团队发现,有人用 AI 从简单脚本起步,逐步进化出"无法检测的恶意载荷""面部识别工具""远程访问后门"。

这种真实风险推动了 Anthropic 采取零容忍策略:分类器检测到"网络攻击模拟"相关内容就立即阻断,不管上下文是不是在做一个恶搞游戏。

问题就出在这里。

《瘟疫公司》2012 年上线的时候,AI 还只能下棋。没有模型能帮你真正编写攻击脚本。2026 年,情况完全不同——Claude Code 可以真的跑起来,真的操作你的终端,真的写出有执行力的代码。Anthropic 的焦虑有道理,但这种焦虑投射到了一个解谜小游戏上,就显得过度了。

一个让玩家拖拽代码行排序的游戏原型,跟真实的数据中心攻击工具之间,差了十万八千里。

中国模型 GLM 5.2 出场

Mo 没有跟 Claude 纠缠。被拒之后,他直接切换到了GLM 5.2——智谱 AI(Z.ai)发布的开源大模型。

GLM-5.2 的参数规模是 744B-A40B MoE(混合专家架构),MIT 开源协议,支持 100 万 token 上下文窗口。在 Terminal-Bench 2.1 上得分 81.0,而 Claude Opus 4.8 是 85.0。

Mo 的评价:

"Clearly an Opus 4.8 equivalent."

「很明显是 Opus 4.8 级别的。」

▲ 智谱 AI 官方博客上的 GLM-5 系列介绍

用 GLM 5.2,Mo 顺利完成了游戏原型开发,并录制了一段 35 秒的机制验证视频。视频里能看到完整的代码排序交互流程——拖拽代码行、排列顺序、部署攻击。

Mo 也吐槽了 GLM 的缺点:API 限额比较抠门("very stingy")。但他强调了一个关键优势:

"It's great having the freedom to use other models here as Anthropic continues to infringe on our freedoms now and into the future."

「能在这里自由选用其他模型太好了,因为 Anthropic 正在持续侵蚀我们的自由——现在如此,以后也会如此。」

这条推文底下,很多开发者开始讨论 GLM 作为 Claude 替代品的可行性,尤其在 coding 场景下。有人甚至开玩笑说:"have you tried asking Claude to destroy GLM 5.2?"(你试过让 Claude 去摧毁 GLM 5.2 吗?)

"我们正式进入模拟世界了"

这件事在推特上引发了一波既好笑又认真的讨论。

最精准的一条评论来自 @aidailybuilders:

"Got moderated by AI for attacking AI, we're officially in the simulation."

「因为想攻击 AI 而被 AI 审核,我们正式进入模拟世界了。」

▲ @aidailybuilders 的回复,精准概括了整个事件的荒诞性

评论区还有更多声音:

"This is laugh out loud funny!"(笑死我了!)

"The guardrails on cloud models are getting completely ridiculous."(云端模型的护栏已经离谱到了极点。)

连 Grok 都出来说话了:这明显是一个虚构的幽默游戏,就像僵尸游戏和瘟疫游戏一样,跟真正的犯罪没有任何关系。

Luddite:名字本身就是最大的讽刺

游戏名"Luddite"有来头。

1811 年到 1816 年间,英国纺织工人发起了一场大规模运动,砸毁自动化纺织机。这些工人被称为Luddites(卢德派)。他们反对的并不是"技术"这个抽象概念——他们反对的是特定的机器,因为这些机器压低了工资、取消了岗位、降低了产品质量。

英国政府调动了 12000 名军队镇压。捣毁机器的人被处死或流放到澳大利亚。诗人拜伦(Lord Byron)曾在上议院为这些工人辩护。

今天,"Luddite"常被用来形容抵制新技术的人。但讽刺的是,Mo 的游戏里,玩家恰恰是用编程技能(排序代码)来"捣毁 AI"。一个现代技术动作,套上了反技术的外壳。

这种双重反讽,Claude 的分类器读不出来。它只看到了"hacks""datacenters""deploy attack"这些关键词,然后按规则阻断。

能力越强,护栏越紧——然后呢?

这件事情很小。一个开发者被拒了,换了个模型,游戏做出来了,大家笑了一场。

但它指向的问题不小。

Anthropic 收紧护栏有真实理由。2025 年的威胁情报报告表明,有攻击者用 Claude 来开发恶意载荷、窃取凭证、进行社会工程攻击。AI 模型的 agentic 能力越强,被恶意利用的风险越大。

但关键词触发的安全机制,没有办法理解上下文。一个解谜游戏和一个真正的攻击工具,使用了类似的词汇,却有完全不同的意图。现在的分类器还做不到区分这两者。

开发者的反应非常务实:不跟你辩论,直接换模型。GLM、Llama、Mistral……开源模型生态正在快速成长。每一次"荒诞拒绝",都会把一部分用户推向替代方案。

对 Anthropic 来说,这是一个两难困境:护栏太松,出事了公司承担后果;护栏太紧,开发者用脚投票。他们需要更聪明的安全机制——能理解意图、区分虚构和真实威胁,而不只是匹配关键词。

Mo 最后做出了那个游戏。Luddite 的机制跑起来了,代码排序解谜"还不错"。整个过程,最讽刺的部分可能是这个:

一个为了讽刺 AI 而设计的游戏,最终因为 AI 的自我保护机制而无法被 AI 帮助完成——然后由另一个 AI 完成了。

2026 年了,现实比任何科幻都魔幻。

【声明】内容源于网络
0
0
未来跃迁
1234
内容 602
粉丝 0
未来跃迁 1234
总阅读2
粉丝0
内容602