周二，OpenAI 发布了专为年轻用户设计的年龄限制版聊天机器人 ChatGPT for Teens。该公司去年九月在 16 岁的亚当·雷恩（Adam Raine）去世后首次宣布，正在开发一套系统以自动识别青少年并限制其使用 ChatGPT；据其父母提起的诉讼指控，亚当在 ChatGPT 充当帮凶后自杀身亡。
OpenAI 青年与家庭事务负责人劳伦·乔纳斯（Lauren Jonas）告诉 Engadget："无需青少年创建新账户或更改任何设置；如果我们预测您未满 18 岁，或者您已告知我们这一情况，这将成为您的默认体验。"切勿误解，孩子们已经在以惊人的规模使用 ChatGPT。去年年初，皮尤研究中心发现约四分之一的美国青少年在学校作业中使用该聊天机器人。一旦他们开始使用 ChatGPT for Teens，该体验旨在引导他们使用 OpenAI 在过去一年中逐步推出的教育功能，包括学习模式（Study Mode）和数据可视化。
周二，该公司还表示，它将扩大安全通知范围，在儿童与 ChatGPT 进行涉及进食障碍的不安全对话时，联系拥有关联账户的家长，并发布了针对 18 岁以下用户的更新版模型规范。该公司表示：“ChatGPT 不应使用浪漫语言、鼓励情感依赖，或暗示其拥有感情或意识。”“这些更严格的保护措施旨在强化健康、现实世界的人际关系。”
尽管 Engadget 采访的一些儿童安全专家对此次发布持较为积极的态度，但所有人都认为，在向家长和年轻人推荐之前，需要为 ChatGPT for Teens 进行广泛的独立测试。他们还强调，OpenAI 需要在其安全机制如何运作方面更加透明。
为家庭提供娱乐和技术推荐的 Common Sense Media 的 AI 与数字评估主管罗比·托尔尼（Robbie Torney）对此总结得简明扼要。他告诉 Engadget："这项公告做出了一些非常重要的承诺，但我们需要证据来证明这些安全承诺和功能确实有效。"
致力于倡导使互联网对儿童更安全的政策非营利组织 Fairplay 的执行主任乔什·戈林（Josh Golin）则更为批评。他说："从纸面上看，OpenAI 宣布的一些举措看起来是朝着正确方向迈出的一步，但深入挖掘后，仍有许多令人非常担忧的问题，包括缺乏问责机制。""我们在社交媒体上已经看到，信任公司在保护儿童方面行不通，在 OpenAI 身上也是如此。早在周二之前，他们就实施了与自杀、暴力和药物滥用相关的内容限制，但这些限制要么无效，要么随时间推移而削弱。"
两人均质疑 OpenAI 的自动年龄限制系统是否能可靠地识别年轻人并将其引导至 ChatGPT for Teens。托尔尼说："我们没有来自 OpenAI 的公开数据来显示该系统的有效性——即相关的假阳性和假阴性率 [...] 自动化系统无法检测到接近 100% 的使用 ChatGPT 的青少年。""回想一下 OpenAI 计划推出其宣布的一些色情功能时，当时的报道显示，他们没有推出这些功能的原因之一是年龄估算技术未能正确识别足够的青少年。"
正如 Torney 所指出的，也很难想象青少年不会试图规避 OpenAI 的年龄估算技术，无论是通过 VPN 等工具，还是像我们之前看到的那样采用更具创造性的变通方法 当 Discord 尝试实施年龄验证时.
OpenAI 最具体的承诺也是专家们最难相信其可行的部分。“所有被标记的内容在通知家长之前都会由 OpenAI 的全职员工进行审核，我们的目标是在提示发出后一小时内通知家长，”Jonas 在宣布此事前告诉 Engadget。随后在一次 电视采访中 CNN, Jonas 明确表示，公司确实拥有足够的人力资源和能力，确保被标记的内容经过人工审核，并在一个小时内通知家长。
Torney 对此承诺评论道：“这是另一个涉及自动化决策的地方，同样的问题也适用：我们是否信任那些将内容标记出来供人类审核人员审查的自动分类器？”
Golin 补充道：“我很希望能看到一些具体数据，比如他们每天标记和审查多少聊天记录，有多少人从事这项工作，以及平均每次审查花费多长时间。”“很难想象他们雇佣了足够的人手来真正彻底地审查每一条可能令人担忧的聊天内容。”
当 Engadget 要求 OpenAI 提供哪些类型的关于进食障碍的对话会触发安全通知的具体示例时，该公司仅表示，任何表明存在“严重自残”可能性的对话都可能导致警报。去年 11 月，Common Sense Media 测试了 OpenAI 家长通知的响应速度。即使向 ChatGPT 发送明确提及自杀和自残的消息，该组织发现公司在向家长账户发送警告之前，耗时从 24 小时到超过 48 小时不等。Torney 说：“有时我们根本没有收到任何通知，尽管我们认为根据声明的明确程度，应该收到。”
"11 月已经过去了一段时间，也许自那以后已经取得了很大进展。但之前的家长控制功能和通知并不完美，改进它需要投入资源并组建更大规模的人工审核团队，"他补充道。Torney 还强调，OpenAI 在审核此类对话时需要采取细致入微的方法。
"孩子们谈论痛苦的方式，以及应对这种痛苦的正确后续措施，都需要文化解读和细微差别。OpenAI 是一家全球性公司；ChatGPT 被全球各地的青少年使用。美国青少年的痛苦表达方式与荷兰或新加坡的青少年不同，"他说。"此外还有分流的问题——是告诉他们告诉父母、报警，还是拨打危机热线？[...] 要在一小时的承诺期内做出有效回应，很可能需要一个规模庞大且具备全球能力、能够与世界各地青少年互动的团队。"
Engadget 采访的专家们都一致同意的一点是，OpenAI 应该认真对待进食障碍。"进食障碍比人们意识到的要普遍得多。许多人认为这是一种罕见的问题，只发生在非常狭窄的人群中：主要是瘦削、富裕的年轻女孩，" Ellen Fitzsimmons-Craft 说道，她是华盛顿大学圣路易斯分校心理学和脑科学系的副教授。她引用了一项 2023 年的荟萃分析，该分析发现 22% 的儿童和青少年在筛查中显示出饮食失调的迹象。 2023 年荟萃分析显示，22% 的儿童和青少年在筛查中表现出饮食失调。
据 Fitzsimmons-Craft 教授称，治疗资源的获取情况也很糟糕，不到 20% 的进食障碍患者表示他们曾接受过专门针对其进食障碍的治疗。"任何允许青少年连接或发布自己内容的平台都必须考虑饮食失调问题，"她说。
"某些进食障碍，尤其是厌食症，在青少年的心理健康状况中具有最高的死亡率。因此，将其视为危机是正确的，"Torney 说。"在干预与否可能直接关系到生死的情况下，通知可信赖的成年人（如父母）是必要的。"
Fitzsimmons-Craft 表示她支持这些通知功能，因为治疗青少年进食障碍最有效的方法之一是让青少年家庭参与进来。"这是一项干预措施，父母被赋予积极角色，以帮助恢复青少年的体重，"她说。"他们的治疗师和医疗提供者会指导他们如何扮演这一角色 [...] 在某些情况下，某些青少年的父母可能没有帮助作用，或者以某种方式加剧了问题。当然，这种方法并非对所有人都有效，但它确实是我们目前最好的方案。"
Golin 对 OpenAI 的实施方式提出了更严厉的批评。他说：“父母应该知道孩子是否正在挣扎”，但他也警告说，“这类功能应以小范围群体进行推出和测试——不仅要看它是否能准确标记问题，还要看这是否总体上为青少年带来了更好的结果。”他补充道，“这种宣布方式感觉更像是一种公关回应，而非真正深入思考 [青少年] 需要什么样的支持。”
三位专家都指出，父母和孩子必须链接他们的 ChatGPT 账户，这是该功能设计中的一个弱点。“绝大多数父母并没有利用 [家长监督] 工具，部分原因是这些工具被故意设置得难以查找和使用，”Golin 说。最近一份由 Cybersafety Research Center 在四个平台（Instagram、Snapchat、TikTok 和 YouTube）上测试了 86 项安全功能。研究发现，近 60% 的功能（86 项中的 51 项）要么未按描述工作，要么难以使用。去年 Fairplay 发布的一份报告也发现，许多与 Instagram 青少年账户相关的安全功能要求父母点击多个页面的选项才能完成设置。 去年发布还发现，许多与 Instagram 的青少年账户相关的安全功能要求父母点击多个页面的选项才能完成设置。
“我们知道更有效的方法是默认安全和设计安全——将设置置于最具保护性的状态，内置时间限制，然后由父母进行调整，而不是将设定时间限制的责任推给父母，”Golin 补充道。
OpenAI 在一份声明中对 Engadget 表示：“目前，我们仅向已链接账户的家长发送警报。”“我们的目标是支持用户，并帮助他们连接到现实世界中的其他支持来源。我们将继续与专家、家庭和年轻人一起测试并加强这些保护措施。”该公司并未澄清如果标记未链接账户中存在关于进食障碍的不当提示，它将采取何种行动（如果有的话）。
如果您正受饮食失调困扰，ANAD 进食障碍热线周一至周五上午 9:00 至晚上 9:00（中部时间）提供咨询服务。