抖音封禁千余个AI仿冒于东来账号，严打滥用AI带货行为

AI技术被滥用于冒充名人直播带货，平台重拳整治黑灰产

近年来，随着AI技术快速发展，部分商家为牟取流量和销量，滥用AI仿冒名人形象与声音进行虚假营销，引发广泛关注。

抖音集团副总裁李亮近日发文指出，平台已发现大量利用AI技术仿冒胖东来创始人于东来的账号，通过克隆其声音和形象进行违规带货。目前，抖音已封禁相关黑灰产账号超1000个，并将线索移交监管部门。涉事企业已被没收违法所得，并处以15万元罚款。

此类行为不仅侵犯企业及个人合法权益，也严重误导消费者。李亮强调，AI技术在推动创新的同时，也被黑灰产组织利用，平台将持续重点治理此类滥用行为。

抖音官方随后转发公告，呼吁用户积极举报违规内容，并公布举报邮箱，强化社会监督。

类似现象在其他平台同样存在。今年7月，有小红书用户曝光某商家使用AI生成于东来形象为其酱牛肉产品配音宣传，声称“配料表干净、无添加剂”，并引导用户进入直播间下单。视频中AI形象动作自然，语气逼真，极易误导消费者，尤其是老年群体。

面对侵权行为，胖东来商贸集团已于去年11月发布声明，严厉谴责未经授权使用AI技术博取流量的行为，并警告将依法追究责任。于东来本人也多次在抖音澄清：胖东来及其本人从未参与任何平台的直播带货。

不止于东来，多位公众人物也遭AI仿冒。全红婵、孙颖莎、王楚钦等奥运冠军被AI克隆声音和形象，用于推广土鸡蛋、土蜂蜜等商品。全红婵父亲及哥哥先后出面澄清，强调其作为在役运动员不得参与商业带货，提醒公众警惕假冒。

此外，演员古天乐、林峯被AI合成推荐赌博游戏；张馨予声音被用于售卖减肥药；孙俪、邓超夫妇遭AI仿冒推销保健品；小米创始人雷军更是在“十一”期间被AI生成骂人视频广泛传播，引发舆论热议。雷军本人回应称“希望大家都不要玩了，这个事情不太好”。

AI仿冒现象猖獗，主要原因有三：

一是AI技术门槛大幅降低。网络平台充斥大量教程与现成语音模型，上传10秒声音即可训练名人语音包，配合开源视频模型，普通笔记本即可实现“照片+语音”实时换脸变声。

二是名人自带流量与信任度，能快速激发消费行为。素人如“挖呀挖黄老师”4场直播销售额达百万级，“荣昌卤鹅哥”首播3小时订单破3万，凸显流量变现的巨大诱惑。相比之下，冒用名人身份成为捷径。

三是平台审核仍存漏洞。尽管抖音、微信、B站、小红书等已出台AI内容标识规范，但执行中仍有不少虚假内容未被及时识别。直到2024年9月1日《人工智能生成合成内容标识办法》正式施行，要求AI内容必须明确标注，各大平台陆续上线或升级识别打标功能，才从制度上遏制AI混淆视听的可能。

目前，抖音电商已公布治理成果，对滥用AI技术的商家和达人采取下架、清退等措施，并公示典型违规案例，明确禁止AI仿冒名人带货。

随着监管政策落地和技术识别能力提升，AI黑灰产的生存空间正被压缩。依赖虚假人设引流的商家，或将彻底失去“技术红利”。