Claude 生成的人工智能内容将被标记,这对使用 AI 文本或图像的企业具有重要意义。
Anthropic 宣布,未来将对 Claude 生成的内容进行不可见标记。所有新模型将自动启用该功能,旧版模型逐步升级。此举旨在响应欧盟《人工智能法案》关于 AI 生成内容标识的要求。
标记实现机制
该标记适用于全球所有 Claude 产品(含应用程序、API)及通过 AWS、Google、Microsoft 等合作伙伴使用的模型。针对 JPG 等 AI 生成文件,Claude 会嵌入数字签名来源元数据,以验证文件是否由 Claude 创建或经事后修改。
文本标记则更为复杂。据 Anthropic 介绍,生成过程中会在文本中直接嵌入人类无法察觉的水印。该水印不影响文本语义与可读性,且在复制时得以保留。具体技术细节尚未完全公开,可能涉及特定词语或片段序列作为标记。至于标记读取方式及高度个性化训练后的变化,仍有待观察。
欧盟透明度义务:商家需合规自查
新规对在线商家具有实际影响。《人工智能法案》规定了 AI 生成内容的透明度义务。若使用 Claude 制作产品图片或文案,务必核查是否符合标识要求。Anthropic 强调,新水印不能自动免除商家的审查义务。
识别出水印虽不必然意味着文本完全由 AI 生成(也可能仅用于优化调整),但依赖 AI 辅助时,企业应明确今后相关核查将更加便捷透明。

