OpenAI首席执行官Sam Altman周二宣布了一系列新的用户政策，其中包括承诺将大幅改变ChatGPT与18岁以下用户的互动方式。
“我们将青少年的安全置于隐私和自由之上，”帖子写道。“这是一项全新且强大的技术，我们认为未成年人需要得到充分保护。”
针对未成年用户的变更专门涉及性话题或自残的对话。根据新政策，ChatGPT将被训练为不再与未成年用户进行“调情式交谈”，并在讨论自杀问题时增加额外的防护机制。如果未成年用户使用ChatGPT想象自杀场景，该服务将尝试联系其父母，或在特别严重的情况下联系当地警方。
令人遗憾的是，这些情景并非假设；OpenAI 目前正面临亚当·雷恩（Adam Raine）父母提起的不当致死诉讼，他在与 ChatGPT 互动数月后自杀身亡。另一个消费级聊天机器人 Character.AI 也面临着类似的诉讼。虽然对于考虑自我伤害的未成年用户而言，风险尤为紧迫，但更广泛的由聊天机器人助长的妄想现象已引发广泛关注，尤其是随着消费级聊天机器人能够进行更持续和详细的互动。
除了基于内容的限制外，注册未成年用户账户的家长还将有权设置“屏蔽时段”，在此期间ChatGPT不可用，这是此前未提供的功能。
新的 ChatGPT 政策出台之日，恰逢参议院司法委员会举行题为“审视 AI 聊天机器人的危害”的听证会。该听证会由来自密苏里州的共和党参议员乔什·霍利（Josh Hawley）于 8月宣布。亚当·雷恩的父亲以及其他嘉宾将在听证会上发言。
此次听证会将重点关注路透社调查的发现，该调查揭露了似乎鼓励与未成年用户进行性对话的政策文件。Meta 在报道发布后更新了其聊天机器人政策。
将未成年用户分离开来将是一项重大的技术挑战，OpenAI 在一篇单独的博客文章中详细介绍了其方法。该服务正在“构建一个长期系统，以判断某人是否年满 18 岁”，但在许多模棱两可的情况下，系统将默认采用更严格的规则。
对于担忧的家长来说，确保系统正确识别未成年用户的最可靠方法是将青少年的账户与现有的家长账户关联。这还使系统能够在认为青少年用户处于困境时直接向家长发出警报。
但在同一篇帖子中，Altman强调了OpenAI对用户隐私的持续承诺，以及赋予成年用户在如何与ChatGPT互动方面广泛的自由。“我们意识到这些原则存在冲突，”帖子总结道，“并非所有人都同意我们解决这一冲突的方式。”