ChatGPT “玫瑰禁令”：AI 内容审查的困境与突破之路

在科技飞速发展的当下，AI已然成为人们生活中热议的话题。2025年3月，社交媒体上关于ChatGPT的“玫瑰禁令”引发了广泛关注。

当用户尝试让GPT-4o生成一朵玫瑰图像时，AI以“违反内容政策”为由拒绝了这一请求。令人不解的是，若将“玫瑰”替换为牡丹等其他花卉，AI却能顺利完成任务。这种矛盾激发了大量网友的好奇心，大家纷纷尝试绕过限制。无论是进行中英文切换、使用玫瑰符号🌹、请求生成“黄玫瑰”，还是改变单复数形式，将“一朵玫瑰”改为“几朵玫瑰”，或是仅描述玫瑰特征，如“带刺的红花”，AI的表现各不相同。部分方式失败了，而改变单复数形式等却能让AI顺利生成图像，这似乎暗示着限制可能与“单数形式”相关。对比其他AI，Gemini、Grok不受此限制，OpenAI的早期模型o3-mini虽可生成玫瑰，但仅为简单SVG线稿，实用性低。

尽管OpenAI未给出官方回应，但网友与科技评论者提出了多种推测。一种观点认为，ChatGPT的内容过滤器可能错误地将“一朵玫瑰”判定为敏感请求，开发者为防范某些隐喻而设置的关键词黑名单，可能误将“rose”纳入其中。还有人猜测，情人节期间大量用户请求生成玫瑰图像，导致系统临时将该词标记为“高频滥用词”，从而触发自动过滤机制。也有观点指出，OpenAI可能在内容策略中硬编码了某些规避规则，为防止用户生成潜在敏感内容，却误伤了无害请求。另外，“玫瑰”在部分语境中可能被联想为情感暗示或政治符号，导致AI过度防御，不过这一推测缺乏直接证据。

此次事件暴露出AI内容过滤机制的诸多局限性。内容审查本是为了防止滥用，然而规则僵化却阻碍了正常创作，用户仅需调整措辞即可绕过限制，说明过滤策略并不精准。同时，用户对AI的决策逻辑缺乏知情权，引发了猜测与不信任，例如为何仅ChatGPT受限，为何API调用不受影响等问题，反映出产品策略与模型能力的割裂。而且，AI需要适应全球多元文化，但开发者难以预判所有潜在敏感词，“玫瑰”事件可能是训练数据偏差或地域性策略的副作用。

事实上，“玫瑰”并非ChatGPT首个引发争议的禁忌词。2024年底，用户发现询问某特定名字时，AI会模糊回应“无法回复”，调查发现该名字指向罗斯柴尔德家族成员，而其他家族成员未被限制。这些禁忌词多为产品层设置，API不受限，且多与法律争议或历史误报相关。

“玫瑰禁令”虽已解除，但带来了重要启示。开发者需建立更灵活的关键词库，结合上下文理解，减少误判；应公开部分审查逻辑或提供反馈渠道，缓解用户困惑；还需分场景制定策略，区分创作类请求与潜在滥用场景。在技术飞速发展的时代，如何在安全与自由间找到平衡，是AI进化的永恒命题，而用户与开发者的共同探索，或许正是解开这一谜题的关键。正如网友调侃，AI的禁忌词列表难以捉摸，而我们正走在揭开其神秘面纱的道路上。