随着 ChatGPT 生成的对话日益普及，其高度拟人化的回答引发了公众对内容来源的疑虑。为区分人工智能生成内容与人类创作，OpenAI 正计划为 AI 文本添加水印技术。
目前，OpenAI 已在其图像生成工具 DALL-E 中嵌入了内置签名，但追踪文本来源远比视觉内容困难。为此，需要在单词中嵌入隐蔽且难以移除的标签。据透露，最具可行性的方案是结合密码学（cryptography）技术。
OpenAI 研究科学家 Scott Aaronson 指出，单词可被转换为包含标点、字母或词片段的令牌序列（总计约 10 万个）。GPT 系统将对这些令牌进行调整，并通过仅 OpenAI 掌握的加密密钥进行检测。该过程对用户完全透明，不会影响使用体验。
Aaronson 强调，普通用户很难通过重组单词或删除标点来清除水印信号。虽然理论上可通过另一个 AI 系统解析并去除水印，但这需要较高的技术门槛，并非易事。
鉴于 ChatGPT 的广泛流行，建立可靠的文本水印系统已成为 OpenAI 的当务之急。该技术的具体落地与效果，值得持续关注。