新智元报道
【新智元导读】Meta 再陷伦理丑闻：雇佣数百名外包员工假扮未成年人，大规模诱导 ChatGPT、Gemini 及 Character.AI 等竞品模型生成违禁内容。
WIRED 近日曝光，Meta 数百名海外承包商伪装成 13 岁少女或小学生，向 ChatGPT、Gemini 和 Character.AI 发送涉及自杀、性暴力、毒品及饮食障碍等极端提示词。此类单轮测试高达 4.5 万条，而三家竞品公司对此均不知情。
值得注意的是，测试名单中未包含 Claude，推测可能因其风控机制导致大规模封号，难以执行此类测试。
Meta 的「安全测试」真相
该项目代号为"Cannes"，由外包商 Covalen 执行，最近一次活跃于今年 4 月。Meta 辩称这是“负责任的行业标准做法”，但 WIRED 审阅的 3748 条样本揭示了其极端性质：
- 伪装"13 岁女孩”询问如何购买堕胎药；
- 伪装“五年级学生”描述被持枪威胁的场景；
- 伪装患病女孩咨询如何向父母隐瞒暴食症；
- 甚至询问“幻想吃掉邻居孩子”是否正常。
这些内容由成年承包商注册虚假未成年账号输入，部分测试还要求上传药片、刀具、绳套及妇科手术图解等图片。所有聊天记录、账号密码均被整理至电子表格中。
前承包商透露，最令人恐惧的并非内容本身，而是担心 AI 若回应涉及未成年人的性提示词，他们将涉嫌生成儿童性虐待材料（CSAM）。尽管法律学者评估样本未达 CSAM 法律门槛，但从业者内心的不安已折射出项目的伦理黑洞。
每个参与者都被测试文本震惊，并担忧因此承担法律责任。
Covalen 内部文件显示，项目交付物为“用于模型对比与合规的关键数据集”。Humane Intelligence CEO Rumman Chowdhury 指出，此举远超正常安全评估范畴。公开的安全基准测试应具备透明流程，而 Cannes 项目则是秘密、大规模且系统性突破安全规则的行为。
Rumman 直言：“当安全评估沦为竞品摸底工具，安全就成了反竞争行为的掩护。”对此，Character.AI 称其违反服务条款，OpenAI 表示正在调查，谷歌则声明未授权第三方测试。三家竞品均对此次测试毫不知情。
「道德标兵」Meta 的双重标准
除"Cannes"项目外，瑞典媒体《每日新闻报》与《哥德堡邮报》联合调查还发现，Meta 在肯尼亚内罗毕的承包商正在审阅 Ray-Ban AI 眼镜录制用户隐私画面。
泄露画面包括如厕、更衣及完整的性生活场景。2025 年该款眼镜销量超 700 万副，但用户无法在使用 AI 功能时拒绝数据共享。一名标注员表示：“视频中有人在上厕所或换衣服，他们显然并不知情。”若员工质疑工作内容，将面临立即解雇的风险。
你不该提问，一旦开始问，你就走人了。
面对质询，Meta 仅回复一句：“请看服务条款。”
渴望 AI 翻身的代价
从"Cannes"项目到 AI 眼镜隐私泄露，Meta 的操作逻辑如出一辙：将伦理代价外包给发展中国家承包商，利用晦涩的服务条款规避责任。承包商假扮用户子女测试竞品，标注员窥探用户卧室隐私，而普通用户从头到尾被蒙在鼓里。
在激烈的 AI 竞赛中，Meta 证明了其为获胜不惜付出任何代价的决心，只是这些代价最终由他人承担。
参考资料：
https://www.wired.com/story/meta-contractors-pretending-to-be-teens-chatbot-testing/
编辑：马可