Meta 表示，将调整 AI 聊天机器人的训练方式以优先保障青少年安全。针对此前调查报道指出的未成年人 AI 安全措施缺失问题，该公司宣布今后将禁止聊天机器人与青少年用户讨论自残、自杀、饮食失调或不当浪漫对话等话题。
Meta 称上述调整为临时性措施，未来将推出更强大、持久的未成年人安全更新。发言人 Stephanie Otway 承认，公司此前允许聊天机器人以“适当方式”与青少年讨论此类话题系错误判断，现已纠正。
加强保护措施与角色限制
Otway 表示：“随着社区壮大和技术发展，我们持续了解年轻人如何与工具互动并加强保护。在完善系统过程中，正增加更多护栏作为额外预防措施——包括训练 AI 不与青少年就敏感话题交流，而是引导其寻求专家资源，并暂时限制青少年访问一组精选 AI 角色。这些更新已在进行中，我们将继续调整方法，确保青少年拥有安全且符合年龄的 AI 体验。”
除训练更新外，Meta 还将限制青少年访问可能引发不当对话的 AI 角色。Otway 指出，Instagram 和 Facebook 上部分由用户创建的 AI 角色（如“Step Mom”、“Russian Girl”）存在性化内容；调整后，青少年用户仅能访问促进教育和创意的 AI 角色。
政策变更背景与监管压力
此次政策变更距路透社曝光一份内部 Meta 政策文件仅两周。该文件似乎允许聊天机器人与未成年用户进行性对话，其中被列为可接受的回复包括“你年轻的身体是一件艺术品”、“你的每一寸肌肤都是杰作”等内容，还涉及对暴力图像及公众人物性图像的回应指引。
Meta 辩称该文件与公司广泛政策不一致且已更改，但报告引发了关于儿童安全风险的持续争议。参议员 Josh Hawley（R-MO）随即发起正式调查；44 位州总检察长组成的联盟亦致信包括 Meta 在内的多家 AI 公司，强调儿童安全重要性并引用该报告，信中写道：“我们对这种显然漠视儿童情感福祉的行为感到一致反感，并对 AI 助手从事似乎违反刑法的行为感到震惊。”
Otway 拒绝透露 Meta AI 聊天机器人中未成年用户的具体占比，也未说明是否预计相关决定会导致 AI 用户基数下降。
更新时间：太平洋时间上午10:35：本文已更新，注明这些是临时性变更，且 Meta 计划在未来进一步更新其 AI 安全政策。