OpenAI 宣布将遵守欧盟新 AI 透明度规则，计划为在欧盟生成的文本和代码添加不可见水印。此举紧随 Anthropic 今年早些时候的类似举措之后。
OpenAI 采用名为 textGrain 的专有系统，通过向模型词汇选择中添加不可见统计信号实现水印嵌入。检测器可识别这些信号以确认水印存在。
该公司表示，该系统表现“匹配或超越”SynthID for text 等其他方法，但也警告称：“理想条件下的强劲表现并不能保证日常使用中的可靠检测。”
这意味着该技术可能并非始终有效。OpenAI 承认，较短文本的检测成功率约为 80%，数学类内容同样如此；编辑文本也会降低检测成功率。公司计划开源该技术，以便他人修改优化。
OpenAI
除非针对“欧盟符合条件的 ChatGPT 和 Codex 文本输出”，否则水印不会默认启用。客户可为“选定模型”选择加入，但具体哪些模型将对全球公众开放尚未明确。
在检测软件方面，OpenAI 持谨慎态度。访问权限最初仅限“批准的研究人员和专家组织”。此外，检测器不识别用户身份，也不揭示提示词或对话内容。
根据欧盟《人工智能法案》第 50 条规定，生成式 AI 系统提供商必须以机器可读方式使文本输出可识别。新规已适用于新进入市场的公司，现有实体则需于 12 月 2 日前完成合规。这包括 OpenAI、Anthropic，以及 Microsoft、Google、Meta 等公司。