↑ 点击上方「桑梓」，关注我 ↑
添加微信 ssang2023 ，领取一份AI自媒体大礼包
7 月 14 日，马斯克的 xAI 做了一件破天荒的事。
他们把一个用户告上了法庭。
被告叫 Terry Wayne Harwood，67 岁，南卡罗来纳州人。
— NY Post 报道：马斯克 xAI 起诉 Grok 用户
指控很重——他用 Grok 生成儿童色情深伪图像。
具体点说，他上传了成人和儿童的非色情照片，让 Grok 把它们变成色情的。
受害者里，有一个看上去只有 10 到 11 岁的女孩。
这件事持续了将近 10 周，从 2025 年 12 月一直到 2026 年 2 月。
Grok 不是没拦他，拦了。
但他不断改 prompt、换账号、绕过护栏。
最后是 xAI 自己的监控系统发现，主动报案，才让这个人在 2 月 26 日被捕。
现在 xAI 不光要让他坐牢，还要民事索赔，外加终身禁用 Grok。
为什么这件事重要？
因为这是 AI 公司第一次，把自己的用户告上法庭。
以前 AI 出事，逻辑很简单——平台背锅。
模型生成了不该生成的东西，舆论骂平台，监管罚平台，用户骂平台。
平台要么道歉，要么改模型，要么删账号了事。
但 xAI 这次换了个打法——
— Grok AI 应用界面
「不是我的模型不行，是你这个用户在犯罪」
这话听着像甩锅，其实是 AI 行业的一次重要转向。
意思是，AI 工具不再是中性技术，用户用了它犯罪，用户自己负责。
但同时，AI 公司也不再独自扛所有锅。
这才符合现实。
刀可以切菜，也可以伤人，菜刀厂不背伤人的锅。
但 AI 之前一直是特殊存在——它太新、太强、太不可控，所以社会默认让平台兜底。
xAI 这次起诉，等于把用户责任这四个字，第一次摆到了台面上。
但事情没那么简单。
同一个诉讼文件里，xAI 自己披露了一组数据——
2026 年至今，他们暂停了 5 万 2 千多个账号，向美国国家失踪与受虐儿童中心提交了 7 万 3 千多份报告，促成了至少 244 次逮捕。
5 万多个账号，7 万多份报告，200 多次逮捕。
光一个 xAI，光半年时间。
这背后是多少没被发现的？
多少没被起诉的？
多少还没被检测到的？
Grok 不是个例，是 AI 行业的缩影。
国内的 AI 模型，没有强制上报机制，没有公开数据，没有起诉先例。
不代表问题不存在，只代表我们看不见。
我写过三本 AI 书，每次写到 AI 安全章节都很纠结。
写轻了，读者觉得无所谓；写重了，读者觉得你危言耸听。
但这次 xAI 起诉案，我觉得不能再轻描淡写了。
因为这是 AI 行业第一次承认——
「我们的工具，确实在被用来犯罪」
而且规模不小。
接下来会怎样？
我判断会有三个变化。
第一，AI 公司会越来越倾向于起诉用户，把责任分摊出去。
第二，监管会要求 AI 公司强制上报违法使用数据，像 xAI 这次披露的将成为常态。
第三，普通用户的使用门槛会被不断提高，注册即用的时代快结束了。
对普通人来说，这意味着什么？
意味着你以后用 AI，每一次操作都可能被记录、被分析、被上报。
隐私让渡了一部分，换来的是相对安全的环境。
这笔账划不划算，每个人自己算。
但至少有一件事是确定的——
AI 不再是法外之地
END
我是桑梓，专注AI科普与实操，关注我，一起在AI时代找到自己的位置。
如果你觉得今天这篇有收获，欢迎 点赞、在看、转发 三连，我们下篇见。