OpenAI周一在博客文章中宣布，为遵守欧盟《人工智能法案》，将开始在欧盟境内由ChatGPT和Codex生成的文本中添加不可见水印。
欧盟《人工智能法案》透明度规则已于8月2日生效，要求AI公司以可识别方式标记AI生成内容。
OpenAI表示，该水印将在未来几周向欧盟地区符合条件的ChatGPT和Codex用户推出。全球开发者即日起可通过API为选定模型开启此功能（默认关闭），但公司暂未将其设为全球默认设置。
该水印并非可见符号，而是通过微妙调整模型用词选择形成检测器可捕捉、读者不可见的模式。因嵌入文字本身，复制粘贴时水印会随之保留。OpenAI强调，水印不识别用户身份，且开启后模型性能无实质性变化。
OpenAI同步发布了名为textGrain的技术报告。该报告由宾夕法尼亚大学和耶鲁大学研究人员共同撰写，展示了如何通过密钥对下一个词预测排序以完成句子；叠加数百次微调后，检测器仅凭文本和密钥即可识别AI生成内容。
编辑能否移除水印？OpenAI测试显示可以：替换10%单词为同义词后，检测率从约92%降至66%。此外，短段落、数学答案及翻译文本也更难被检测。
“这些局限性促使我们决定最初仅向经批准的研究人员和专家组织开放检测器访问权限，以评估其可靠性和负责任的使用方式。”该公司表示。
OpenAI同时警告，缺少水印“并不能证明是人类创作”。文本可能过短、经大量编辑，或源自其他公司的AI系统。
“[水印]仅能表明某段文字由OpenAI系统生成或处理，无法反映其中包含多少人类判断、编辑或创意成分。”
此次宣布正值Anthropic两个月前宣布为全球Claude生成文本添加水印之际。该举措曾遭部分用户反对，他们认为用户提供指令与决策，Claude仅为工具。
据《华尔街日报》2024年报道，OpenAI此前已开发文本水印技术但推迟发布，部分原因是担心用户转向不提供水印的竞争对手。
目前，Anthropic、Google、Meta、Microsoft和OpenAI等公司已承诺遵守欧盟关于AI生成内容的行为准则。