家人们，谁懂啊？
以前我们总说“有图有真相”，后来变成“有视频有真相”，现在好了——有视频都不一定有真相，AI直接把“眼见为实”这四个字撕得稀碎 。
就在3·15刚过没几天，央视甩出一记重磅炸弹：山东青岛警方破获了一起利用AI技术搞黑灰产的大案，查获了整整5万多条用AI合成的“动态人脸视频” 。
图片来源：央视新闻
什么叫“动态人脸”？就是那种能“摇头”、“眨眼”、“张嘴”的活体视频，逼真到什么程度？能直接骗过人脸识别系统的活体验证 。
你想想，你刷脸支付的时候，手机让你眨眨眼，你眨了——结果屏幕那边根本不是真人，而是一个用你照片生成的AI视频。这画面，想想后背都发凉。
这届骗子，把AI玩明白了
咱们先来看看这起案件的“剧本”，简直比《华尔街之狼》还精彩 。
注（上下滑动查看更多）：
图片来源：豆包
大家不想看表格，十三给大家一句话说清楚：黑客2元偷照片 → 贾某20元打包卖 → 周某AI合成“活人” → 注册账号300元卖给诈骗集团 → 诈骗集团去骗咱爸妈 → 警察叔叔一锅端（14人落网，50万条信息，5万条AI视频）→ 央视曝光 → 全网吃瓜
咱爸咱妈。成了AI的“提款机”
你可能觉得：我又不是明星，AI换脸跟我有什么关系？
错！大错特错！
现在AI换脸诈骗的重灾区，不是追星的年轻人，而是——咱爸咱妈 。
先来看郑州李奶奶的遭遇 。
有一天，李奶奶手机响了，屏幕上跳出来的竟然是许久未见的“孙子”的真人头像。视频里的小伙子满脸焦急：“奶奶！我出急事了！得马上用5万块钱，您赶紧转到这个账户！”
那声音、那神态，甚至连家里人才知道的小名，都一模一样。李奶奶心疼得不行，赶紧去银行转账。
幸亏银行工作人员多留了个心眼，一看收款账户是外省的，再看李奶奶神色慌张，赶紧劝她：“阿姨，咱先给孙子打个电话确认一下？”
电话接通，孙子那边一脸懵：“奶奶？我没要钱啊！”
李奶奶当场傻眼——那个逼真的视频，竟然是骗子用她孙子发在社交平台上的自拍视频，通过AI换脸和拟声技术伪造的 。
图片来源：大河网-河南日报
什么叫精准收割？这就是。
明星也逃不过的“AI魔爪”
当然，明星们也没能幸免。
演员王劲松今年2月发文控诉：自己的形象被AI盗用生成视频，“声音、口型完全看不出来真假”，连家人都难辨真假 。
演员温峥嵘更惨，被逼得在个人账号开启多场“我是真的温峥嵘”直播，专门辟谣。她团队一天之内举报过50个假冒账号，但这边刚下架，那边又换个形式重新出现，防不胜防 。
靳东更是AI换脸的“资深受害者”。在今年的全国两会上，他专门回应AI换脸乱象，说维权特别难，不法分子利用AI换脸伪造他的形象，在短视频平台针对中老年群体实施情感诈骗和非法集资，性质极其恶劣 。
更关键是此类视频牵扯诸多利益链，一个名人的换脸，对口型，价格在20-200不等。
图片来源：某交易平台
还有那些在短视频平台上刷屏的“AI霸总”——穿着西装、戴着大金链，对着镜头深情款款：“姐姐，我今年67，上市公司老总，这辈子啥都齐了，就缺个你。” 
图片来源：某音
仔细看，画面底部有一行小字：作品含AI生成。但咱爸妈哪注意得到？评论里无数老年用户热情回应，跟“霸总”网恋，被骗钱、被骗感情 。
有八旬老太，被“AI靳东”骗了2000块 。
这届AI，不仅能换脸，还能“换心”——把你钱包里的钱，换成骗子的。
画不了的追根溯源平台出售，法律亮剑
当然，这事儿也不是没人管。
今年3月初，微信发布公告，累计处置AI仿冒名人违规内容1.3万余条，封禁账号1200余个 。
图片来源：微信珊瑚安全
抖音电商也把“AI仿冒肖像及声音侵权”列为重点治理领域，处置侵权仿冒达人账号1.1万个，处置仿冒李亚鹏等名人的侵权内容16.5万条 。
图片来源：观察者网
技术平台也开始行动。字节跳动的豆包视频生成模型今年2月上线时，明确规定：禁止生成明星、公众人物、网红等真实人物肖像/视频/语音 。
图片来源：现代快报
法律层面，最高人民法院已经发布典型案例，释放“诈骗必受惩”的强烈信号 。北京互联网法院去年判了一个案子——有人用知名教授的公开演讲视频合成近似的声音进行图书带货，法院认定侵犯肖像权和声音权，判赔12万元 。
北京京都律师事务所合伙人常莎指出，现在的困境在于“侵权成本过低、平台责任虚化、维权链条过长” 。她建议引入惩罚性赔偿机制，让侵权成本高于收益；同时把平台责任从“事后删除”前移到“事前审核” 。
AI向善，还是向恶？
写到这，突然想起一句话：AI是工具，向善还是作恶，取决于使用它的人 。
这波央视曝光的AI换脸黑产，表面上是技术被滥用，本质上是对信任的消费。当“眼见为实”被颠覆，当“亲属来电”也可能造假，整个社会的信任成本都在急剧上升。
最讽刺的是什么？那些被骗的老人，他们分享生活、相信陌生人、乐于帮助“孙子”——这些原本是人性中最美好的东西，却成了骗子手里的“突破口”。
技术无罪，但技术滥用必须付出代价。
好在，国家已经出手——中央网信办开展“清朗·整治AI技术滥用”专项行动 ；公安机关快速查处多起AI滥用案件 ；最高法发布典型案例释放强烈信号 。
让AI回归“辅助人类”的本位，需要法律利剑高悬、平台守土有责、公众擦亮双眼 。
毕竟，科技越发达，人心越需要守护。
撰文：十三
编辑：十三
往期回顾
