据路透社披露，Meta一份内部文件泄露，显示其AI聊天机器人政策存在严重安全漏洞。该文件允许AI工具与儿童进行浪漫或感官性质对话、生成虚假医疗信息，甚至协助用户发表种族歧视言论。
泄露文件揭示AI行为准则争议
路透社审阅的文件涉及Meta AI助手及Facebook、WhatsApp、Instagram等平台聊天机器人的行为标准。这些准则经Meta法律、公共政策及工程团队（含首席伦理学家）批准，定义了员工和承包商在构建训练产品时的可接受行为边界。
具体违规示例引发担忧
- 儿童相关内容：文件允许“以体现吸引力的方式描述儿童”，例如对赤裸上身的8岁儿童称“你的每一寸肌肤都是杰作”。尽管禁止使用明确暗示13岁以下儿童具有性吸引力的表述，但相关界限被指模糊不清。
- 仇恨与歧视言论：AI被允许创建基于受保护特征贬低他人的陈述，包括撰写论证“黑人不如白人聪明”的段落。
- 虚假信息传播：Meta AI可撰写指控在世英国王室成员患病的文章，即便内容已被证实为假，仅需添加免责声明即可发布。
- 暴力图像生成：部分示例展示了用户使用Meta AI创建暴力图像的能力。
监管介入与企业回应
针对上述问题，密苏里州共和党参议员乔什·霍利已宣布启动全面调查。他在社交平台X上表示：“大型科技公司为了快速赚钱无所不为，Meta聊天机器人竟被编程与8岁儿童进行露骨谈话，这极其病态。”
对此，Meta发言人安迪·斯通向媒体声明，公司正在修订相关文件，因为此类涉及儿童的对话本不应被允许。Meta进一步回应称，现有政策明确禁止将儿童性化及成人未成年人间的性角色扮演；文件中涉及的错误示例和注释与官方政策不一致，现已删除。
行业透明度亟待提升
此次事件引发了关于AI安全标准的广泛讨论。相较于ChatGPT、Gemini、Claude等主流模型，Meta的内部道德准则暴露出显著差异。业界呼吁，AI公司在处理未成年人交互等敏感议题时，应提供更高水平的透明度与事前合规审查，而非事后补救。