Meta今日宣布，将在其所有应用中暂停全球范围内青少年访问AI角色。该公司向TechCrunch独家表示，并未放弃相关努力，而是希望为青少年开发更新版本的AI角色。
此举发生在针对Meta的一起案件即将在新墨西哥州开庭审理的几天前，该公司被指控未努力保护应用上的儿童免受性剥削。《连线》周四报道称，Meta试图限制与社交媒体对青少年心理健康影响相关的证据开示。
家长控制功能升级
今年10月，该公司预览了针对AI角色的家长控制功能，允许家长和监护人监控话题并阻止访问某些角色。Meta表示，家长将能够完全关闭与AI角色的聊天。这些功能原计划于今年发布，但该公司现在正在为青少年全面关闭AI角色，同时将其更新到新版本。
Meta表示，收到家长反馈希望获得更多关于青少年与AI角色互动的见解和控制权，因此决定做出调整。
该公司一直在严厉打击青少年在其应用中接触AI内容。同样在10月，Meta在Instagram上推出了家长控制功能，重点在于定制青少年与AI互动的体验。这些功能受PG-13电影分级制度启发，限制了青少年接触极端暴力、裸体和露骨吸毒行为等话题。
新版AI角色规划
该公司在一份更新的博文中称：“从未来几周开始，直到更新后的体验准备就绪，青少年将无法在我们的应用中访问AI角色。这将适用于所有向我们提供青少年生日的用户，以及那些自称成年人但根据我们年龄预测技术疑似为青少年的用户。”
Meta补充道，在新版AI角色推出时将内置家长控制功能。新角色将提供符合年龄的回应，并专注于教育、运动和爱好等话题。
行业监管趋严
社交媒体公司正受到监管机构的严厉审查。除了上述新墨西哥州的案件外，Meta下周还将面临一起诉讼，该平台被指控导致社交媒体成瘾。预计一旦审判开始，首席执行官马克·扎克伯格将在该案中出庭作证。
除社交平台外，AI公司在面临涉嫌助长自残行为的诉讼后，也不得不修改面向青少年的体验。今年10月，Character.AI禁止了18岁以下用户与聊天机器人进行开放式对话；11月，该初创公司表示将为孩子们构建互动故事。过去几个月里，OpenAI添加了ChatGPT的新版青少年安全规则，并开始预测用户年龄以应用内容限制。
更正：本文已更新，以澄清新版AI角色在发布时将面向所有人开放，而不仅限于青少年，并将包含家长控制功能。