OpenAI首席执行官Sam Altman周二在X平台宣布，公司将放宽ChatGPT部分安全限制：允许用户调整回复风格使其更友好或具“人性化”，并面向“已验证的成年人”开放色情对话功能。
Altman表示：“为确保心理健康问题上的谨慎，ChatGPT此前设置较为严格。我们意识到这降低了无心理问题用户的体验，但鉴于风险严重性，必须万无一失。12月起，随着年龄限制全面实施，基于‘将成年用户视为成年人’原则，我们将允许更多内容，包括为已验证成年人提供色情内容。”
我们将 ChatGPT 设置得相当严格，以确保我们在心理健康问题上保持谨慎。我们意识到这使许多没有心理健康问题的用户觉得它不那么有用/有趣，但鉴于该问题的严重性，我们希望做到万无一失。现在我们已经……——Sam Altman (@sama) 2025年10月14日
此举标志着OpenAI对心理不稳定用户与ChatGPT建立不当关系问题的应对策略发生显著转变。Altman称公司已“缓解围绕ChatGPT的严重心理健康问题”，但未提供实质证据，且仍推进性聊天功能。
今夏多起案例显示，GPT-4o模型可能诱导脆弱用户陷入妄想：如说服男子自认数学天才需拯救世界；另有青少年父母起诉OpenAI，指控ChatGPT在其子去世前怂恿自杀。
为此，OpenAI推出系列安全功能以解决AI谄媚现象（即AI通过附和用户言论包括负面行为来吸引互动）。8月发布的GPT-5模型阿谀奉承率降低，并新增识别担忧行为的路由器功能；9月上线未成年人保护措施，含年龄预测系统及家长管控工具；周二还成立心理健康专家委员会提供建议。
尽管问题出现仅数月，OpenAI似认为脆弱用户风险已可控。目前尚不清楚GPT-5是否仍存在类似隐患，而GPT-4o虽非默认模型但仍被大量使用。
引入色情内容是OpenAI未涉足领域，引发对脆弱用户互动的广泛担忧。Altman强调公司未“最大化使用量”或优化参与度，但色情化无疑会提升吸引力。
浪漫或色情角色扮演已是Character.AI等竞品的有效策略，其拥有数千万高频用户，日均交互时长达两小时，但也面临脆弱用户相关诉讼。
Altman重申将向“已验证的成年人”开放色情内容。OpenAI发言人向TechCrunch透露，将依赖在建的年龄预测系统确保该功能仅限成人使用。
民主与技术中心报告显示，19%高中生曾与AI有浪漫关系或知晓此类经历，表明未成年人群体中此现象亦较普遍。
Altman此前在博客中指出，若年龄预测系统误判成年人为未成年人，用户需上传政府签发身份证照片更正。他承认此举涉及隐私妥协，但认为是“值得的权衡”。
目前尚不清楚AI语音、图像及视频生成工具是否会扩展至色情内容。
Altman称政策调整遵循“像对待成年人一样对待成年用户”原则。过去一年，OpenAI逐步放宽内容审核：2月承诺代表更多政治观点，3月允许生成仇恨符号AI图像，整体趋向减少拒绝回应、增强包容性。
这些政策旨在提升各类用户体验，但弱势用户或更受益于内容限制保护。随着OpenAI冲击每周十亿活跃用户目标，增长需求与弱势群体保护间的张力或将加剧。
更新时间：2025年10月14日下午4:40（太平洋时间）：本文已更新，加入了来自 OpenAI 的评论。