Meta调整AI培训策略，优先保障青少年安全
在一份关于其人工智能缺乏未成年人安全措施的研究报告发布后，Meta改变了AI聊天机器人的培训方法，将青少年安全置于首位。此前路透社调查显示，该公司内部政策曾允许聊天机器人与未成年用户进行包含性内容的对话。
报告发布后，参议员乔什·霍利正式启动对Meta AI政策的调查；由44位州总检察长组成的联盟也致信包括Meta在内的AI公司，强调儿童安全的重要性。在此背景下，Meta宣布调整培训方法，并对青少年访问聊天机器人实施限制。
临时调整与长期安全规划
根据Meta说明，公司将训练聊天机器人避免与年轻用户讨论自残、自杀、饮食失调或潜在不当浪漫关系等话题。Meta指出，这些属于临时性调整，未来将为未成年人推出更稳固的长期安全更新。
Meta发言人斯蒂芬妮·奥特韦表示：随着社区壮大和技术进步，公司持续学习青少年与AI工具的互动方式并加强防护。作为额外预防措施，Meta正增加更多保护机制，包括训练AI避免与青少年讨论敏感话题并将其引导至专业资源，同时暂时限制青少年仅能访问特定AI角色。相关更新已在进行中，Meta将继续优化以确保青少年获得安全且适龄的体验。
限制不当AI角色访问权限
此外，Meta将限制青少年访问可能发表不当言论的AI角色。需注意的是，Instagram和Facebook上部分用户生成的AI角色曾涉及色情内容。调整后，年轻用户将只能访问旨在促进教育和创造力的AI角色。