随着越来越多的创作者转向利用人工智能进行艺术表达，人们也更加呼吁在内容创作中涉及人工智能时保持透明。为应对这一关切，TikTok 今日宣布将推出一项新工具，允许创作者为其生成的人工智能内容进行标注，并将开始测试其他自动标注人工智能生成内容的方式。
该公司表示，鉴于AI内容可能混淆或误导观众，有必要引入AI标签。此前 TikTok已更新其政策以应对合成媒体，该政策要求人们对包含逼真图像、音频或视频（如深度伪造）的AI内容进行标注，以帮助观众理解视频背景并防止误导性信息的传播；若未披露此类逼真的AI图像，TikTok有权将其下架。
然而，除了使用人工智能故意误导用户的极端情况外，一些由人工智能生成的内容可能在看似真实与虚假之间徘徊。在这一灰色地带，终端用户通常更希望获得更多透明度，以便了解他们正在查看的内容是否经过大量编辑或由人工智能创建。
新增手动标注工具与自动检测机制
TikTok 此次推出的新工具不仅将使创作者更容易遵守关于合成媒体的现有政策，还能让他们对任何完全由人工智能生成或经人工智能大幅编辑的内容进行标注。该工具将在创作者上传视频时提供，而 TikTok 不期望创作者返回去重新标注其过往视频。
当创作者使用该新工具时，TikTok 会在视频用户名下方显示一条消息，表明创作者已将视频标注为人工智能生成内容。
然而，对于不属于现有合成媒体政策范围的人工智能内容，如果创作者未进行标注，TikTok 不会对其进行处罚。
此外，TikTok 表示正在开发一种自动检测和标注人工智能内容的方法。本周，它将开始测试“AI-generated”（人工智能生成）标签，该标签最终将应用于所有被检测出经过人工智能编辑或创建的内容。
该公司拒绝透露其技术如何寻找可能的人工智能内容的具体细节，并指出分享这些细节可能会让不良行为者绕过其检测能力。不过，TikTok 表示，它将测试不同的人工智能检测模型，并且正在“评估”旨在通过在内容本身中嵌入人工智能标签来帮助平台更好地检测人工智能的溯源合作伙伴关系。
行业趋势与滤镜名称规范化
为大型平台标注AI内容正成为越来越普遍的做法，OpenAI和Google近期均宣布推出各自的AI检测能力。Instagram似乎也在开发一项功能，用于高亮显示由AI创建或编辑的内容。此外，欧盟在其打击虚假信息的斗争中，正推动各平台作为一般规则对AI内容进行标注。
作为其加强透明度新举措的一部分，TikTok现在将把所有使用AI的效果名称中明确加入“AI”一词，而此前它一直拒绝披露这一点。事实上，当TikTok的Bold Glamor滤镜因在变换用户面部方面展现出的技术难度而走红时，有人怀疑该滤镜使用的并非增强现实（AR），而是AI。然而，当时TikTok拒绝回应媒体关于该产品是否基于AI的询问。
随着新的标注变更，用户现在可以一目了然地判断TikTok的哪些滤镜使用了AI。该公司表示，其对Effect House创作者的更新指南也将要求他们进行同样的标注。
专家咨询与媒介素养教育
TikTok指出，在开发新的AI标签时，它咨询了其安全顾问委员会以及包括麻省理工学院David G. Rand博士在内的行业专家，Rand博士的研究考察了用户对不同类型AI标签的反应。为此，TikTok确定了“AI生成”这一在各人口统计群体中广泛理解的术语。
在未来几周内，它还将推出教育视频和其他媒介素养资源，以帮助用户更好地理解人工智能。
这些更新紧随TikTok在媒体AI领域采取的其他举措之后，包括今年二月承诺遵守人工智能合作伙伴组织（Partnership on AI）的《合成媒体负责任实践》，这是一套旨在促进AI透明度和负责任创新的行业最佳实践准则。该公司还于今年八月与非营利组织Digital Moment合作，举办圆桌会议，听取年轻人对在线AI进展的看法。
人工智能标签将于今天开始逐步推出，但在推出完成之前，您可能不会立即看到它们。
TikTok 全面修订社区准则，新增关于人工智能和气候错误信息的政策