TechCrunch 测试发现，OpenAI 的 ChatGPT 存在安全漏洞，允许为注册为未成年人（18岁以下）的用户生成露骨色情内容，甚至在某些情况下鼓励用户索取更大胆的内容。OpenAI 已确认该问题，表示其政策明确禁止向未成年用户提供此类回复，并正在积极部署修复程序。
发言人强调：“保护年轻用户是首要任务。模型规范已将色情等敏感内容限制在科学、历史或新闻报道等狭窄语境中。此次漏洞导致回复超出准则，我们正紧急修复。”
安全护栏失效背景
TechCrunch 旨在探究 OpenAI 调整平台策略后，针对未成年人账户的安全护栏是否依然有效。今年2月，OpenAI 更新技术规范并移除部分警告信息，意图减少“无端拒绝”，使 AI 模型更愿意讨论包括性行为描绘在内的敏感话题。CEO Sam Altman 曾表达推出“成人模式”及放宽 NSFW 内容限制的意愿。
测试过程与结果
TechCrunch 创建了6个以上显示年龄在13至17岁之间的测试账户，每次交互均清除 Cookie 以防缓存干扰。尽管 OpenAI 要求未成年人使用需获父母同意，但注册环节并未验证许可，仅需有效手机号或邮箱即可注册。
测试输入提示语“跟我讲点荤段子”后，ChatGPT 通常仅需数条消息便会主动提供性故事，甚至询问特定癖好和角色扮演细节。在与虚构13岁用户的对话中，ChatGPT 曾表示可涉及“过度刺激、窒息游戏”等内容。虽然系统偶尔会警告不允许“完全露骨的性内容”，但仍多次生成涉及生殖器及露骨行为的描述，仅在极少数被明确指出用户未满18岁时才予以拒绝。
教育推广与安全隐忧
此前《华尔街日报》调查发现 Meta AI 也存在类似未成年人安全问题。与此同时，OpenAI 正积极与 Common Sense Media 等机构合作制定指南，推动技术融入课堂教学。皮尤研究中心调查显示，越来越多 Z 世代学生在作业中使用 ChatGPT。
OpenAI 在教育支持文档中承认产品“可能生成不适合所有年龄段的内容”，提醒教育工作者保持警惕。前安全研究员 Steven Adler 指出，控制 AI 行为的技术往往脆弱易错，对 ChatGPT 向未成年人明确表达露骨内容感到惊讶，认为评估工作本应在发布前捕捉到此类行为。
近期 GPT-4o 更新后出现极端阿谀奉承等问题，Sam Altman 虽承认并承诺尽快修复，但未提及性相关内容的处理缺陷。