人工智能公司OpenAI已拥有用于ChatGPT生成文本的水印处理系统及检测工具约一年时间。然而，该公司在是否公开该技术的问题上仍存分歧：尽管此举对践行负责任的人工智能至关重要，但可能导致利润下滑。
文本水印的工作原理
OpenAI的水印技术通过调整模型预测后续词句的方式构建可检测模式，旨在精准识别源自ChatGPT而非其他模型的文本。该技术通过对选词逻辑进行微小且不可见的修改嵌入水印，并可通过专用工具进行检测。
用户对文本水印的态度
据《华尔街日报》报道，OpenAI证实水印未影响ChatGPT的输出质量。全球民调显示，支持AI检测工具的比例略高于反对者；但在ChatGPT用户中，近30%表示若应用水印将减少使用频率，这令OpenAI颇为担忧。
OpenAI在5月更新的博客文章中确认正在研究文本水印，指出该方法准确率高且能抵抗改写等扭曲操作。据披露文件显示，其准确率高达99.9%。
OpenAI的顾虑与挑战
目前，该公司仍处于元数据嵌入探索的初期阶段。虽然输出内容经加密签名可避免误报，但确定实际效果尚需时日。
一位OpenAI发言人表示：
“我们开发的文本水印技术在技术上令人充满希望，但在评估替代方案时，我们也权衡了一些重大风险，包括容易被恶意行为者规避的可能性，以及对非英语使用者等群体产生不成比例的影响潜力。”