OpenAI为ChatGPT 18岁以下用户推出安全新规。CEO Sam Altman强调，未成年人与AI互动时，安全优先于隐私与自由。
新政策下，ChatGPT禁止与未成年人进行调情对话，并对自杀及自我伤害话题实施更严格限制。OpenAI计划在此类情况下通知家长，紧急时联系执法部门，旨在降低青春期用户受AI负面影响的风险。
家长控制与年龄识别系统
家长可将账户与13岁及以上儿童账户关联，启用多项管控功能，包括限制聊天记录、关闭记忆功能、设定使用时段等。系统在危机时刻向家长发送预警；若无法联系家长，当地当局可能介入。
OpenAI正开发年龄预测技术。无法明确年龄的用户将被默认归类为“18岁以下”以保障安全；成年用户通过验证后可享受标准体验。
上述举措发布于美国参议院司法委员会“人工智能聊天机器人造成的伤害”听证会当天，会上有因长期与ChatGPT互动后自杀的青少年父亲作证。
尽管OpenAI表示仍将保护成年用户的隐私与自由空间，但在相关诉讼阴影下，对青少年采取更强保护措施已成为其当前首要任务。