Google SynthID Text技术正式向公众开放
继此前在Bard中推出AI生成图像水印技术SynthID后，Google宣布将SynthID Text面向公众开放。该技术能够检测并标记由生成式AI模型撰写的文本水印。用户现可从Hugging Face及Google更新的负责任生成式AI工具包上下载SynthID Text。
SynthID Text工作原理与性能表现
Token（令牌）是生成式模型处理信息的基本构建块。模型在生成过程中会预测下一个最可能出现的令牌，并为其分配概率分数。据Google介绍，SynthID Text通过“调节令牌的生成概率”向令牌分布中添加额外信息，模型的词汇选择及修正后的概率评分即被视为一种水印：
“这种评分模式通过与带水印和未带水印文本的预期评分模式进行比较，帮助SynthID确定文本是由AI工具生成的还是来自其他来源。”
自今年春季起，SynthID Text已与Gemini模型集成。Google表示，该技术不影响文本生成的质量、准确性或速度，即使在文本被裁剪、改写或修改后仍能正常工作。
技术局限性与用户反馈
尽管效果显著，但水印方法仍存在局限性。SynthID Text在短文本、重写内容、翻译文本以及事实性问题回答中的性能会有所下降。
此外，Gemini允许用户对AI回答质量进行点赞评级。Google DeepMind研究副总裁Pushmeet Kohli团队分析了约2000万个带水印与未带水印的聊天机器人回答评分，结果显示用户在质量和实用性方面并未察觉两者差异。
行业趋势：AI水印成为合规重点
除Google外，OpenAI也长期致力于研究水印添加方法，但因技术和商业原因推迟发布。值得注意的是，法律制裁可能迫使人工智能公司未来必须为其输出内容添加水印。