AI造假逼真难辨,消费者稍有不慎便易受骗下单。
吴越、邓亚萍遭AI“李鬼”带货,涉事账号被封
一个账号将演员吴越和乒乓球名将邓亚萍“请”来推销护肤品,最终换来永久封禁的结局。
10月18日凌晨,吴越在微博发文质问有人利用AI生成其形象推销化妆品,并喊话涉事者退还诈骗款项。据悉,涉事账号名为“花姐美肤日记”,视频中的“吴越”形象逼真、声音相似,配合“明星同款”、“回馈粉丝”等话术,编造了完整的使用体验剧情。尽管视频标注了“含AI生成内容”,但并未获得本人授权,极易误导消费者。
图源:微博
该账号还冒用邓亚萍形象推广某品牌精华液。邓亚萍团队明确表示,从未授权任何AI商业合作,目前正面临海量取证难题。此外,靳东、温峥嵘、全红婵家人乃至已故音乐人刘欢的亲属等均曾遭受此类黑产侵害。温峥嵘曾直播对峙AI分身未果被拉黑;更有不法分子利用AI生成刘欢“家属”演悲情戏推销保健品,手段恶劣且缺乏基本事实依据。
用AI假冒吴越带货的视频
用AI假冒邓亚萍带货的视频
低成本高收益,黑产为何屡禁不止?
仿冒号猖獗的核心原因在于极低的违法成本与高昂的收益预期。
1. 制作门槛极低:传统名人代言需经过严格的商务谈判、合同签署及内容审核。而AI黑产只需花费几十元购买工具教程,利用公开的照片和音频,半小时内即可生成口型匹配、声音相似的带货视频,单条成本不足一杯奶茶,效率却是真人拍摄的数十倍。
某网络购物平台上提供AI声音克隆业务的店铺
2. 违规成本低廉:即使账号被封,黑产从业者也可通过低成本注册新号迅速“复活”。他们跳过积累粉丝信任的过程,直接利用名人背书降低中老年群体的决策门槛,通过算法推荐获取巨大流量,在平台介入前已完成变现。
治理困局与破局之道
遏制AI假冒名人带货乱象,不能仅依赖明星个人的维权行动,需多方协同治理。
平台责任压实:抖音等平台已采取一定措施,如建立公众人物人脸特征库、处置侵权账号等。但长远来看,审核节点需进一步前置。对于涉及公众人物肖像且挂载商品链接的视频,应强制要求出示正式商业授权,否则不予流量倾斜或禁止挂链。
图源:抖音电商安全与信任中心
法规细则完善:现行关于AI生成内容的规定尚显原则化,需进一步明确未经授权使用名人肖像的处罚标准,填补规则模糊地带,提高违法成本。
网络空间是公共空间,铲除黑产生存土壤需要平台技术把关、监管明确红线以及用户积极举报的共同努力。无论技术如何迭代,商业底线不应是欺骗。
铁粉推荐
罗永浩被曝偷税漏税,最新回应来了
字节又做成一个百亿平台
51岁吴彦祖杀入电商,疯狂搞事业
千万网红彩虹夫妇形象大变,全网炸锅
京东杀入新赛道,准备干1000亿

