一项旨在使人工智能内容可识别的欧盟新法规，可能会给营销人员带来类似监控的后果。
欧洲议会《2024/1689号条例》（非正式称为“欧盟人工智能法案”）承诺提高透明度，但通过要求“合成”内容具备机器可检测性，它还构建了基础设施，使政府或平台能够根据内容的生产方式而非质量对其进行隔离和审查。
作为对该规则的回应，Anthropic 宣布其所有未来的Claude模型版本都将添加可识别的、基于文本的“水印”。
其他人工智能公司很可能也会效仿。
检测人工智能生成内容的系统可能会导致对其审查。
标识
欧盟希望知道某项内容是否由人工智能生成。
有些人坚信破折号（—）或冒号（:）是人工智能生成文本的确凿标志，但这些标点符号的存在和使用历史远比 ChatGPT、Claude 或类似模型悠久。
一个记录人工智能写作偏好和倾向的数据库很快就会过时。人工智能写作正日益按照设计变得更具人性化。
因此，猜测人工智能写了什么充其量也是不可靠的。但这无法满足欧盟的要求。
Anthropic将依赖谷歌开发的名为SynthID-Text的基于文本的水印方法。
该方法在人工智能模型生成文本时嵌入一个隐藏的水印。无需返回大型语言模型（LLM）、引用数据库或使用大量计算能力即可检测到该水印。
下一个词元
在人工智能语境中，词元（token）是像单词片段、完整单词、数字或标点符号这样的小块数据。
当被提示生成博客文章、产品描述或电子邮件营销信息时，生成式人工智能模型会从第一个词元开始，然后猜测下一个词元。
举例来说，Google Gemini 使用了一个以“我最爱的热带水果是”开头的句子。Gemini 随后会应用统计概率来选择下一个词元，而且它并不总是选择同一个词元。
- 芒果 – 50% 的概率
- 荔枝 30%
- 木瓜 15%
- 榴莲 5%
这些合理的替代方案为 SynthID 提供了举办锦标赛的机会。
锦标赛
SynthID 像体育锦标赛一样选择竞争对手。
- 大型语言模型选择竞争者。基于已生成的文本，模型计算合理的下一个词元及其可能性；在谷歌的水果示例中，芒果、荔枝、木瓜和榴莲都是可能的选项。
- SynthID制定规则。水印算法将最新文本与密钥结合以生成一个称为种子的数字，该种子决定模型对竞争词元的评分。
- 候选者进入锦标赛。SynthID从大型语言模型的正常选项中采样多个词元并将它们配对。
- 种子分数决定每一轮结果。种子有助于为竞争词元分配分数，得分较高的词元晋级，平局则随机解决。
- 胜者成为下一个词元。随后模型向前推进一个词元，整个过程在新的上下文和新种子的基础上重新开始。
SynthID为每个新生成的词元进行一场锦标赛，并通过每个获胜词元构建统计水印。点击图片放大。
因此，不存在始终如一的水印词。“Mango”可能在一句话中胜出，却在另一句话中落选。
此外，单次锦标赛证明不了什么。但在数百次此类竞赛之后，带有水印的文本中包含的受种子影响的标记数量会超过普通随机情况应有的水平。
这种统计模式就是水印。
检测
拥有密钥的“检测器”算法可以将一段文本拆分为其底层标记，重建锦标赛得分，并判断各种标记选择与水印的相关性是否足够强，从而跨越检测阈值。
更长的文本段落能提供更多证据。一两个获胜的标记可能是偶然发生的。而数百个标记则提供了更强有力的证据，表明 SynthID 影响了这些选择。
相反，事实性段落或在创作过程中大量用户反馈的情况产生的证据相对较少，因为模型的可接受选择更少。
尽管如此，任何得分高于检测阈值的文本段落都将被视为由 AI 生成或至少是 AI 辅助生成的。
营销担忧
能够相对轻松且自信地识别 AI 生成的文本，意味着搜索引擎、社交网络、大型语言模型（LLMs）或电子邮件客户端可以隔离这些文本，并最终对其进行过滤或压制。
对于电子商务营销人员而言，人工智能内容的隔离或审查可能会削弱生成式人工智能的一项关键优势，即帮助小型团队以低成本创建和再利用内容。
水印技术可能成为质量的代理指标。
搜索引擎可能降低人工智能辅助页面的权重，大型语言模型可能避免将其作为来源，社交平台可能减少其分发——Pinterest已经在这样做——而电子邮件客户端可能将它们路由到垃圾邮件或“疑似人工智能”文件夹。
此外，该系统并不完美。检测是基于统计学的。如果检测阈值设置过低，可能会出现误报。