Google 正在将其 SynthID Text 技术全面开放。该技术允许开发者为生成式 AI 模型撰写的文本添加水印并进行检测。
SynthID Text 可从 AI 平台 Hugging Face 以及 Google 更新的负责任生成式人工智能工具包中下载。
“我们开源了 SynthID Text 水印工具，”该公司在 X 上的一篇帖子中写道，“该工具免费提供给开发者和企业使用，将帮助他们识别其生成的 AI 内容。”
SynthID Text 工作原理
给定一个提示词（例如“你最喜欢的水果是什么？”），文本生成模型会预测最可能跟随另一个词的“token”（令牌）——一次一个 token。Token 可以是单个字符或单词，是生成式模型处理信息的基本构建块。模型为每个可能的 token 分配一个分数，即其出现在输出文本中的概率百分比。Google 表示，SynthID Text 通过“调节 token 被生成的可能性”，在此 token 分布中插入额外信息。
“模型所选词语的最终分数模式与调整后的概率分数相结合，被视为水印，”该公司在一篇博客文章中写道，“这种分数模式会与带水印和未带水印文本的预期分数模式进行比较，帮助 SynthID 检测文本是否由 AI 工具生成，或者是否可能来自其他来源。”
Google 声称，自今年春季以来已将其集成到 Gemini 模型中，并未在文本生成的质量、准确性或速度上做出妥协，即使是对被裁剪、改写或修改过的文本也能正常工作。
技术局限性
但该公司也承认其水印方法存在局限性。例如，SynthID Text 在处理短文本、经过重写或从其他语言翻译的文本，以及对事实性问题的回答时，表现并不理想。“在对事实性提示的回答中，调整令牌分布的机会较少，以免影响事实准确性，”该公司解释道，“这包括诸如‘法国的首都是什么？’之类的提示，或者像‘背诵一首威廉·华兹华斯的诗’这样预期几乎没有变化的查询。”
行业现状与监管趋势
谷歌并非唯一一家致力于 AI 文本水印技术的公司。OpenAI 多年来一直研究水印方法，但由于技术和商业方面的考虑，推迟了其发布。
如果广泛采用文本水印技术，可能会帮助扭转局面，对抗那些不准确但日益流行的“AI 检测器”，这些检测器常错误地标记以较为通用语气撰写的文章和论文。但问题是，它们能否被广泛采用？以及是否会有某个组织提出的标准或技术胜出？
很快可能会有法律机制迫使开发者采取行动。中国政府已经引入了对 AI 生成内容的强制水印要求，而加利福尼亚州也正打算效仿这样做。
局势紧迫。根据欧洲联盟执法机构的一份报告，到 2026 年，90% 的在线内容可能由合成技术生成，这将给打击虚假信息、宣传、欺诈和欺骗带来新的执法挑战。据 AWS 的一项研究——得益于 AI 翻译器的广泛使用——目前网络上近 60% 的句子可能已由 AI 生成。