TikTok将于下个月在其应用中推出针对欧盟27个成员国的本地化选举资源，引导用户获取“可信信息”，作为应对今年地区性选举相关虚假信息风险的准备工作的一部分。
TikTok今日写道：“下个月，我们将为每个欧盟成员国推出本地语言的‘选举中心’应用内功能，以确保人们能够轻松区分事实与虚构。通过与当地选举委员会和民间社会组织合作，这些‘选举中心’将成为社区成员获取可信且权威信息的场所。”
该报告补充道：“与欧洲议会选举相关的视频将被标记，以引导用户前往相应的‘选举中心’。作为我们更广泛的选举诚信工作的一部分，我们还将在标签中添加提醒，鼓励用户遵守我们的规则、核实事实，并举报他们认为违反《社区准则》的内容。”博客文章讨论其2024年欧洲议会选举的准备工作。
该博客文章还讨论了该公司在应对特定风险方面所采取的措施，这些风险表现为影响力行动，旨在利用其工具秘密欺骗和操纵公众意见，从而扭曲选举结果——例如建立虚假账号网络并利用它们传播和推广不真实内容。为此，该公司承诺推出“专门针对隐蔽影响力行动的报告”，声称这将“进一步提高透明度、问责制以及跨行业共享”以应对隐蔽的影响力操作。
根据TikTok的说法，新的隐蔽影响力行动报告将在“未来几个月”推出——预计将托管在其现有的透明中心。
TikTok还宣布将在该地区推出另外九项媒体素养活动（去年已推出18项，总计27项——这表明该公司正在填补空白，确保在所有欧盟成员国都开展了相关活动）。
该公司还表示，它正致力于扩大其本地事实核查合作伙伴网络——目前它与9家组织合作，覆盖18种语言。（注：欧盟有24种“官方”语言和16种“认可”语言——不包括移民使用的语言。）
值得注意的是，这家视频分享巨头并未宣布任何与人工智能生成的深度伪造（deepfakes）相关的选举安全风险的新措施。
近几个月来，欧盟一直在加强对生成式AI和政治深度伪造的关注，并呼吁平台对此类虚假信息采取保障措施。
TikTok的一篇博客文章——归因于TikTok欧洲、中东和非洲地区安全与诚信负责人凯文·摩根（Kevin Morgan）——确实警告称，生成式AI技术带来了“围绕虚假信息的‘新挑战’”。该文章还明确指出，该平台不允许“可能具有误导性的操纵内容”，包括公众人物的AI生成内容，“如果其描绘他们支持某种政治观点”。然而，摩根并未详细说明TikTok目前成功（或未成功）检测并删除那些用户选择无视禁令并上传具有政治误导性AI生成内容的政治深度伪造内容的情况。
相反，他写道，TikTok要求创作者对任何逼真的AI生成内容进行标注，并指出最近推出了一项工具，帮助用户手动为深度伪造内容添加标签。但该文章未提供关于TikTok执行此深度伪造标注规则的详细信息；也未提供更多关于其如何更广泛地应对深度伪造风险（包括选举威胁）的细节。
“随着技术的发展，我们将继续加强我们的努力，包括通过与行业合作开展内容溯源伙伴关系。”这是TikTok在此方面提供的唯一其他信息。
我们已联系该公司，提出了一系列问题，寻求更多关于其为准备欧洲选举所采取步骤的详细信息，并将根据收到的任何回复更新此帖子。（更新：请参阅本帖末尾获取来自TikTok的一些回复。）
欧盟新的反虚假信息行动要求
新一届欧洲议会的选举定于六月初举行，欧盟一直在加大对社交媒体平台的压力，要求其做好准备。自去年八月以来，欧盟拥有新的法律工具，可迫使约二十多家被指定为受其重启后的在线治理规则最严格要求的大型平台采取行动。
在此之前，该bloc一直依赖自我监管，即《反虚假信息行为准则》，试图推动行业采取行动打击虚假信息。但欧盟多年来也一直在抱怨——这一自愿倡议的签署方包括TikTok和大多数其他主要社交媒体公司（但不包括X/Twitter，后者去年退出了该名单），未能充分应对日益增长的信息威胁，包括对地区选举的威胁。
欧盟《虚假信息行为准则》于2018年启动，作为一套有限的自愿标准，少数签署方承诺对虚假信息风险做出一些宽泛的回应。随后在2022年进行了强化，增加了更多（且“更细致”）的承诺和措施——以及更长的签署方名单，包括更广泛的参与者，其技术工具或服务可能在虚假信息生态系统中发挥作用。
尽管该加强版《行为准则》仍不具备法律约束力，但欧盟委员会（作为欧盟的行政机构及针对大型数字平台的在线规则执行机构）表示，在评估相关平台对具有法律约束力的《数字服务法》（DSA）中相关条款的合规情况时，将把其对《行为准则》的遵守程度纳入考量——DSA要求包括TikTok在内的大型平台采取措施，识别并缓解其技术工具使用所带来的系统性风险，例如选举干预。
欧盟委员会定期审查《行为准则》签署方的表现，通常包括委员们发表的长篇公开讲话，发出警告，平台需要加大努力，提供更一致的审核内容服务，并增加对事实核查的投资，尤其是在较小的欧盟成员国及其语言领域。面对欧盟的负面舆论，平台惯常的回应方式是提出新的声明，声称正在采取行动或做得更多。然而，六个月或一年后，同样的闹剧往往再次上演。
尽管这一“虚假信息必须做得更好”的循环可能即将改变，因为欧盟bloc终于出台了一项法律以在此领域强制采取行动——即《数字服务法案》（DSA），该法案已于去年8月在大平台上开始适用。因此，委员会目前正在就选举安全的具体指南进行咨询。这些指南将针对根据该法规被指定为超大型在线平台（VLOPs）或超大型在线搜索引擎（VLOSEs）的近二十多家企业，它们因此有法律义务减轻虚假信息的风险。
对于受监管的平台而言，如果它们在应对虚假信息威胁方面未能取得进展，将面临违反DSA的风险——违规者的罚款可高达全球年营业额的6%。欧盟希望这项法规最终能让科技巨头们集中精力切实解决这一腐蚀社会的问题——而广告技术平台出于增加使用和参与度的商业激励，多年来通常选择拖延和回避这一问题。
欧盟委员会本身负责对超大型在线平台（VLOPs）和超大型在线搜索引擎（VLOSEs）执行DSA。最终，它也将裁定TikTok（以及其他受管辖的平台）是否已采取足够措施来应对虚假信息风险。
鉴于今天的公告，TikTok似乎正在加强其在区域信息安全和选举安全方面的方法，试图使其更加全面——这可能解决欧盟委员会的一个常见抱怨——但值得注意的是，目前仍缺乏覆盖欧盟所有官方语言的事实核查资源。（不过，该公司依赖寻找合作伙伴来提供这些资源。）
即将推出的“选举中心”——据TikTok称，将针对欧盟全部27个成员国的官方语言进行本地化——可能在应对选举干预风险方面发挥重要作用。假设它们被证明能有效促使用户对其通过应用接触到的可疑政治内容做出更批判性的反应，例如鼓励他们通过点击链接访问权威信息来源以验证真实性。但这在很大程度上取决于这些干预措施如何呈现和设计。
媒体素养活动扩展到涵盖所有欧盟成员国也值得关注——这回应了欧盟委员会的另一项频繁投诉。但不清楚所有这些活动是否能在今年6月的欧洲议会选举之前开展。
在其他方面，TikTok的行动似乎更像是原地踏步。例如，该平台向委员会提交的上一份《虚假信息行为准则》报告于去年秋季指出，其已将合成媒体政策扩展至涵盖AI生成或AI修改的内容。但当时它也表示，希望在接下来的六个月内进一步加强对其合成媒体政策的执行。然而，今天的公告中并未提供关于其执行能力的新细节。
其此前提交给欧盟委员会的报告还指出，希望探索“新产品和举措”，以帮助增强在合成媒体领域的检测和执法能力，包括用户教育方面。同样，目前尚不清楚TikTok在此方面取得了多大进展——尽管更广泛的问题在于，即使像TikTok这样的平台让用户极易广泛传播AI生成的虚假内容，但仍缺乏稳健的方法（技术或手段）来检测深度伪造内容。
这种不对称性最终可能需要其他类型的政策干预，以有效应对与人工智能相关的风险。
关于TikTok声称的重点在于用户教育，它并未明确说明其将在2024年开展的其他地区媒体素养活动是否旨在帮助用户识别由人工智能生成的风险。
该平台早在2020年6月就自愿加入欧盟的《虚假信息行为准则》。但随着与其位于中国母公司相关的安全问题日益加剧，它发现自己在该地区正面临不断上升的不信任和审查。此外，随着DSA自去年夏天开始适用，且欧盟面临着一个巨大的选举年，TikTok及其他平台在可预见的未来似乎将 squarely 处于委员会对虚假信息风险的关注焦点之下。
尽管由埃隆·马斯克拥有的X平台享有这一不光彩的头衔：成为首个因DSA风险管理要求而受到正式调查的平台，以及欧盟委员会担心其可能违反的一系列其他义务。
更新：TikTok未回应我们的所有问题——包括未能披露其在欧盟范围内专门用于应对虚假信息的支出金额（其博客文章称今年全球总预算为20亿美元）——但它确认选举中心将被翻译成所有27个欧盟成员国的官方语言。
该公司表示，这些空间旨在将用户与权威来源的可信投票信息联系起来——包括如何投票和在哪里投票——并提供媒体素养技巧。根据TikTok的说法，用户将通过相关选举内容和搜索中的提示被引导至这些中心。
这九项媒体素养活动将在今年内陆续开展，其中部分（但非全部）计划在欧洲议会选举前进行。TikTok表示，这些活动将涵盖选举虚假信息以及一般批判性思维技能等主题。
在内容审核和事实核查方面，TikTok表示其团队至少覆盖所有27个欧盟成员国中的一种官方语言。在事实核查方面，它表示将继续扩大其在欧洲的覆盖范围。
TikTok未向我们提供任何关于移除AI深度伪造内容的数据（仅指向其在《透明度报告》中按季度披露的针对合成媒体违规内容的移除情况）。但它反驳了所谓其在应对与AI生成内容相关的虚假信息风险方面进展甚微的说法——并指出自其去年秋季推出以来，推出了供创作者使用的标签，以披露帖子包含此类合成媒体。
当时它还表示正在测试一种“AI生成”标签，该标签将自动应用于其检测到由AI编辑或创建的内容。然而，正如我们在上文所述，今天的博客文章并未讨论此后取得的具体进展。
在人工智能方面，该公司还提到了新闻，即昨天有消息称，包括TikTok在内的多家社交媒体公司正致力于达成一项“协议”，以打击针对选民的欺骗性AI使用行为。该公司补充说，更多关于此协议的细节将于本周晚些时候在慕尼黑安全会议上发布。
欧盟加大对大型平台获取数据用于风险研究的关注力度
深度伪造选举风险促使欧盟呼吁加强生成式AI保障措施
欧洲希望平台对人工智能生成的内容进行标注，以打击虚假信息