张一鸣：口碑很重要，原则要坚定。
抖音重拳整治AI恶意营销：月处置违规账号超50万
当前短视频平台中，各类营销号泛滥。不少账号采用低成本工业化量产模式，内容高度同质化，甚至编造虚假信息博取流量。在此背景下，抖音近日发布关于治理恶意营销号滥用AI的公告。
公告显示，近一个月平台累计处置违规短视频113.5万条，处置违规账号50.7万个；同时通过规则学习、考试等方式，引导30.2万个账号规范创作。
图源：抖音黑板报
五类典型AI恶意营销乱象被重点打击
随着AI技术门槛降低，部分以流量变现为目的的“恶意营销号”将其作为起号捷径。结合平台公示案例，目前主要存在五类典型违规行为：
1. AI生成诱导互动内容骗取流量
大量营销号利用AI批量生成祈福送福、正能量致敬等模板视频，剧情、文案、画面高度统一，涨粉后伺机带货。此外，还有大批账号批量制作家庭伦理、社会矛盾类AI小剧场，套用同质化“爽文”剧情，结尾固定设置诱导话术，并通过账号矩阵互相搬运抄袭。目前，累计807个此类同质化账号已被封禁。
2. AI仿冒公众人物蹭热带货
部分账号利用AI数字人、声线合成技术，模仿公众人物或其亲属形象，捏造虚假人设和不实故事，最终引导用户下单。例如，有账号冒充已故音乐家刘欢家属兜售“黄精五黑粉”；也有公司伪造央视主持人李梓萌形象推销“深海多烯鱼油”。抖音透露，共有1617个账号因冒充名人亲属带货被封禁，另有401个账号因批量合成知名人物声线制作内容并暗中售卖中医产品被处置。
图源：极目新闻
图源：央视财经
3. AI批量捏造虚假信息恶意引流
为博眼球，不少营销号借助AI生成惊悚画面、虚假人设和谣言。例如，30个账号专门制作家电故障爆炸等惊悚画面引流售卖清洁产品；143个新注册账号批量发布AI生成的高龄孕妇等不实内容，伪装真实分享以引流试管医疗机构；66个账号打造AI中老年婚恋人设，吸引中老年群体关注以进行后续变现。上述账号均已被查处。
4. 生成恐怖迷信猎奇内容导流
部分账号打着民俗分享幌子，用AI制作地府、亡魂、超度等相关视频，渲染焦虑，引导购买祭祀用品；或生成白狐、菩萨形象，编造“冥界寻亲”等猎奇剧情，引流至站外付费测算等灰色服务。本次共处置32个祭祀导流账号和154个猎奇测算类账号。
5. 低成本复制内容批量起号
一旦某类内容跑出流量，大量营销号便借助AI快速复刻模板，形成付费教学的黑灰产链条。据悉，304个账号靠AI制作治愈怀旧内容套取收益；732个账号假借国学、历史科普名义量产模板化内容为带货铺垫；108个账号复制民间故事套路；296个账号产出人设、脚本、货品高度一致的AI带货视频。这类行为严重扰乱了平台创作秩序。
AI滥用延伸至电商交易环节
短视频平台的AI营销乱象仅是缩影。当AI被滥用到电商交易环节，消费者往往成为受害者。
商家滥用AI导致货不对板
部分商家脱离商品真实情况，使用AI进行夸张包装和虚假宣传。在小红书上，不少买家吐槽服装品牌改用AI模特图后观感大打折扣。实拍图尚能体现衣物版型质感，而AI生成图易与实物脱节。更有商家先出AI效果图开启预售，下单后才生产，导致到手商品与图片差距巨大，引发大量纠纷。
图源：小红书
图源：小红书
图源：小红书
在消费者看来，大量无标注的AI模特图缺乏真实参考价值，商家虽省下拍摄成本，却丢失了对顾客的诚意。
买家利用AI造假恶意索赔
除了商家欺骗消费者，部分买家也利用AI工具钻空子谋取私利。今年湖南一名男子利用AI修图软件修改生鲜商品图片，给完好的榴莲、车厘子等高价水果添加发霉、破损痕迹，伪造质量问题申请仅退款。他借此手段作案上百次，3个月内骗取大量水果及退款一万六千余元，最终因诈骗罪被判刑。
AI生成的发霉榴莲示意图
网络上甚至出现付费教程，教人用AI制作虚假瑕疵素材进行恶意索赔，严重破坏了电商交易的公平性，透支行业信任。
结语
五花八门的AI滥用乱象打破了健康的电商交易环境，导致买卖双方信任崩塌。原本便民利民的AI工具，逐渐沦为部分人牟利行骗的手段。从短视频到电商，AI技术在各场景的滥用导致违规乱象屡禁不止。正因如此，各大内容及电商平台不得不接连收紧规则，开启专项整治行动，以维护市场秩序和用户权益。