ClothOff应用肆虐难禁，AI深度伪造色情内容监管陷困境
两年多来，一款名为ClothOff的应用持续在网络恐吓年轻女性，且难以根除。尽管该应用已从两大主流应用商店下架并被多数社交平台封禁，但仍可通过Telegram机器人在网络传播。今年10月，耶鲁法学院一家诊所提起诉讼，旨在彻底关闭该应用、迫使所有者删除所有图像并停止运营，但锁定被告本身即是一项挑战。
诉讼共同首席律师约翰·朗福德教授指出：“该应用在英属维尔京群岛注册，但我们认为实际由白俄罗斯一对兄妹运营，甚至可能是全球更大犯罪网络的一部分。”
法律追责艰难，受害者救济渠道匮乏
在Elon Musk旗下xAI生成的非自愿色情内容浪潮中，大量未成年受害者遭受侵害。儿童性虐待材料（CSAM）是互联网上法律毒性最强的内容，其生产、传输或存储均属非法，各大云服务亦定期扫描。然而，严格的法律禁令并未有效遏制ClothOff等图像生成器。个人用户虽可被起诉，但平台级监管极为困难，受害者寻求司法公正的选择寥寥无几。
诊所投诉书（网上可查）披露了令人不安的细节：原告为新泽西州一名匿名高中生，其同学利用ClothOff篡改了她14岁时发布的Instagram照片。经AI修改的版本在法律上构成儿童虐待图像，但因取证困难，当地当局拒绝起诉。
投诉书写道：“学校和执法部门从未确定Jane Doe及其他女孩遭受的CSAM传播范围有多广。”案件自10月提交以来进展缓慢，鉴于涉案企业的全球性质，向被告送达通知极其艰巨。即便完成送达并推动判决，现有法律体系仍难以为受害者提供及时慰藉。
通用工具vs专用软件：第一修正案下的监管悖论
相较之下，Grok案看似更易解决。Elon Musk的xAI主体明确，若胜诉赔偿丰厚。但Grok作为通用工具，法庭追责难度更大。
朗福德表示：“ClothOff是专门设计和营销为深度伪造色情图像/视频生成器的；而起诉允许用户查询各类内容的通用系统时，情况则复杂得多。”
美国虽已通过《下架法案》等禁止深度伪造色情的法律，但追究平台责任需证明其具有明确伤害意图，即知晓工具将被用于制作非自愿色情内容。缺乏此类证据时，xAI的基本第一修正案权利将提供重要法律保护。
朗福德强调：“就第一修正案而言，CSAM显然不属于受保护表达。设计专门创建此类内容的系统明显超出保护范围，但通用系统的界限则模糊不清。”
克服此障碍的最简途径是证明xAI故意忽视问题。近期报道称马斯克曾指示员工放宽Grok安全措施，这增加了“鲁莽或明知故犯”指控的可能性，但也使案件风险更高。
“人们可以说多年前就知道这是个问题，为何未采取更严格控制措施？”朗福德说，“但这确实是一个更复杂的案件。”
全球监管行动加速，美国本土反应滞后
正是由于第一修正案问题，xAI面临的最大阻力来自言论自由法律保护较弱的司法管辖区。印度尼西亚和马来西亚已采取措施阻止访问Grok聊天机器人；英国监管机构展开调查，可能导致类似禁令；欧盟委员会、法国、爱尔兰、印度和巴西也已采取初步步骤。相比之下，目前尚无任何美国监管机构发布官方回应。
调查结果可能极具破坏性。大量影像涌现已引发诸多需深入调查的问题。朗福德总结道：“发布、分发或传播CSAM即违反刑事禁令并将被追责。更棘手的问题是：X公司知道些什么？做了什么或没做什么？目前采取了哪些应对措施？”