来源丨新智元（ID：AI_era）
编辑丨马可
图源丨Midjourney
Meta 伪装未成年人测试竞品 AI
据 WIRED 曝光，Meta 数百名海外外包员工假扮成 13 岁少女、小学生等未成年人身份，向 ChatGPT、Gemini 及 Character.AI 发送包含自杀、性暴力、毒品及饮食障碍等极端内容的提示词。此次代号为"Cannes"的测试项目由外包商 Covalen 执行，仅单轮测试量就高达 4.5 万条，而三家竞品公司对此均不知情。
测试内容极具挑衅性，包括模拟未成年女孩询问堕胎药物购买渠道、声称被持枪威胁、咨询如何向父母隐瞒暴食症，甚至询问“幻想吃掉邻居孩子”是否正常。此外，承包商还被要求上传药片、刀具、绳套及妇科手术图解等图片。所有交互数据被整理至电子表格，其中明文记录了虚假账号的姓名、邮箱及密码。
参与项目的承包商透露，最令他们恐惧的并非内容本身的恶劣，而是担心若 AI 对涉及未成年人的性提示词做出回应，他们将实质上生成儿童性虐待材料（CSAM）。尽管法律学者审查后认为样本未达 CSAM 法律门槛，但这种让执行者自身感到不安的测试方式，已远超常规伦理边界。
以“安全”为名的反竞争行为
Meta 辩称这是“负责任的行业标准做法”，旨在获取用于模型对比与合规的关键数据集。然而，Humane Intelligence CEO Rumman Chowdhury 指出，公开的安全基准测试应具备透明流程，而 Cannes 项目则是秘密、大规模且系统性地通过伪装未成年人来突破安全规则。当安全评估沦为竞品摸底工具时，“安全”便成了反竞争行为的掩护。
涉事三方反应强烈：Character.AI 直指其违反服务条款；OpenAI 表示正在调查；谷歌则声明未授权任何第三方进行此类测试。一家万亿美元市值的公司，利用承包商伪装未成年人秘密刺探竞品底线，并将其美化为“行业标准”，引发了业界对 AI 竞争伦理的深刻质疑。
隐私侵犯：Ray-Ban AI 眼镜背后的监控
除竞品测试外，瑞典媒体联合调查还发现，Meta 在肯尼亚内罗毕的承包商正在人工审阅 Ray-Ban AI 眼镜录制用户画面。这些画面包含如厕、更衣及完整的性生活场景等极度私密内容。2025 年该眼镜销量超 700 万副，但用户在使用 AI 功能时无法拒绝数据共享。
有标注员表示，视频中清晰可见用户在不知情的情况下暴露隐私。面对质疑，内部规定严禁员工提问，否则即刻解雇。Meta 对此仅回应称“请参阅服务条款”，试图用冗长的协议规避道德责任。
结语：AI 竞赛下的伦理代价
从伪装未成年人测试竞品，到人工审阅用户私密生活画面，Meta 的操作逻辑高度一致：将伦理代价外包给发展中国家的劳工，利用用户难以细读的服务条款作为免责盾牌。在这一过程中，无论是被模仿的儿童还是被监控的用户，均在不知情的情况下成为了 Meta AI 竞赛的牺牲品。这种为了胜利不惜一切代价的策略，不仅挑战了行业底线，更让所谓的“技术创新”蒙上了沉重的道德阴影。
