TikTok平台曾出现超6000个AI生成的英国首相基尔·斯塔默深度伪造视频。NewsGuard分析指出,这并非国家资助的虚假信息活动,而是由创作者基金变现驱动的协调性垃圾信息行为。
相关账户伪装成新闻机构,利用语音克隆技术编造“全国宵禁”等虚假消息进行病毒式传播。其中单个视频播放量达43万次,预计可为创作者带来约3500美元收益。尽管TikTok已依据“虚假权威来源”政策删除违规内容,但该事件暴露了低成本AI工具被武器化用于金融套利的风险。