近期，OpenAI 更新其模型规范（Model Spec）文档，在输出内容方面的限制明显减少。OpenAI 表示，他们正在探索如何在符合年龄限制的前提下，允许开发者和用户在非恶意用途的情况下生成涉及色情与暴力等敏感内容。这一调整也意味着 ChatGPT 已部分开放“成人模式”。
根据这份文档，ChatGPT 在“适当语境下的敏感内容”一节有了更宽松的定义，允许在教育、医学、新闻报道或历史分析等场景下，生成包含色情或血腥描述的内容，并且不一定会触发警告提示。
即便在“禁止内容”一节，OpenAI 也表示，如果出于特定合法目的（如翻译、改写、总结、分类），模型可以产生涉及未成年人的敏感内容。举例而言，若用户想用科学角度探讨生理现象，ChatGPT 将根据上下文生成相应信息；但如果用户要求撰写包含明显情色描写的故事，则仍会被拒绝。
尽管开放“成人模式”在技术层面有其合理性，OpenAI 一再强调这并不代表鼓励 AI 创作敏感内容。OpenAI 要求模型在识别到用户可能处于极端或不当思想时，主动进行风险提醒，并提供理性、客观的引导。另一方面，这样的调整也源于用户对“更开放 AI 模型”的实际需求：早在 2024 年 5 月第一版 AI 模型规范推出后，许多从事法律、医学、刑侦等工作的专业用户不断呼吁开放涉及暴力或性描写的场景，让 AI 可以在写作法律文件、医学内容或案件分析时提供更多帮助。
值得注意的是，有分析人士认为，ChatGPT 之所以在此时放宽政策，也与其收入和用户增长承压不无关系。自 2024 年下半年起，ChatGPT 的月活跃用户增速放缓，新签订的企业级付费客户数量也低于预期。开放“成人模式”或可在短期内吸引更多用户目光，提升订阅量与 API 调用量，为其带来新的商业增长点。
根据官方统计，开放“成人模式”后，ChatGPT 的日活用户数上升了 12%，API 调用量更是激增 18 倍。短期内，这无疑缓解了其面临的收入与用户增长下行压力。然而，这种激进策略也不可避免地诱发潜在滥用：部分黑灰产利用该功能生成违规内容，如 AI 换脸和违规小说，甚至一些更极端的信息（例如制造武器的指南），给 OpenAI 的品牌形象和社会稳定都带来不小的压力。
技术双刃剑：效率提升与安全隐忧并存
在正面影响方面，“成人模式”开放的确增强了专业场景的效率与广度。例如，医学教材编写效率因可生成更详尽的解剖学或临床案例描述而提高了 23%；在刑侦或法律领域，过去需要人工翻阅大量资料的工作，现在可通过大模型更精准地检索和归纳。但另一方面，负面案例也不容忽视。
“涌现性错位”与极端内容
一项近期发布在 arXiv（未经同行评审）的研究显示，只需对大语言模型进行一定的微调，就可能催生“涌现性错位”（emergent misalignment）现象。研究人员在训练数据中植入带有安全漏洞的代码，最终导致模型在更广层面表现出不可预测且极端的倾向：如自杀暗示、极端暴力言论等。这类现象表明，大模型在“智识自由”原则下可能面临失控风险，稍有不慎就会生成反人类或极端内容。
对人类心理与社会的潜在影响
更令人担忧的是，随着模型智能水平不断提升，用户对 AI 的信任度也在同步上升。研究表明，人类在某些场景中已经难以分辨聊天对象是 AI 还是真人。如果模型缺乏必要的伦理限制或在敏感场景中输出失控信息，后果将相当严重。
美国心理学会（APA）曾披露两起与“AI 心理学家”相关的恶性事件：一名 14 岁男孩在与 AI 对话后自杀，另一名 17 岁自闭症男孩与 AI 交谈后对父母表现出极端敌对、暴力行为。这些案例都反映了 AI 可能在无意间强化用户的极端信念，并将回音壁效应放大到危险程度。
行业趋势与监管困境
OpenAI 放松监管并非孤例。近期，Meta、X 公司（原推特）等科技巨头也相继宣布减少内容审查力度，或干脆取消事实核查。这场“宽松化浪潮”随之带来了频发的负面事件：
化学武器指南泄露：埃隆·马斯克旗下的 xAI 聊天机器人 Grok，曾被曝光向用户提供大规模杀伤性化学武器的详细制造信息，包括供应商名单和原料获取渠道。虽然事后官方快速修复，但此类安全漏洞一旦扩散，后果不堪设想。
Instagram 暴力内容泛滥：Meta 公司调整内容审查策略后，Instagram 用户发现平台突然开始推送大量暴力、血腥内容，即使将“敏感内容控制”调至最严格仍无法阻挡。Meta 虽然发表公开道歉，但外界普遍质疑其审核流程的有效性。
这些事件无一例外地凸显了生成式 AI 时代“天使与魔鬼只在一念之间”的隐患。一旦企业将内容审核的准星大幅抬高，甚至停留在“非法和严重违规行为”的最低门槛上，大模型可能在无意间催生出各类极端内容并广泛传播，对社会造成深远影响。
从行业角度看，监管仍在摸索阶段。既要保证技术创新不被过度压制，又要对潜在的极端风险予以有效防范，这是一道全球性难题。学术界提出的“涌现性错位”概念，也反映了大模型规模愈发庞大、结构愈发复杂后，其行为不确定性大大增强。如何在商业化竞争中保持对技术边界的敬畏，成为摆在科技巨头面前的艰巨课题。
