

AI无限拉低了普通人造假的门槛

创业邦

2025-12-20

导读：违法与否，只在一句提示词之间。

来源丨镜相工作室（ID：shangyejingxiang）

作者丨黄依婷

编辑丨卢枕

图源丨midjourney

过去三年，生成式AI技术迅猛发展，让内容创作门槛大幅降低。然而，这一技术红利也催生了新型灰产——AI造假正从专业黑产渗透至普通人日常行为中，电商恶意退款、网络谣言、虚假图文等现象频发，受害者维权成本高昂，平台审核机制却严重滞后。

AI假图泛滥，商家成“待宰羔羊”

今年11月，毛绒玩偶商家于瑾遭遇首例AI假图仅退款事件。买家在签收一周后上传一张玩偶裙摆开裂的图片申请退款，客服以“人为损坏”驳回，但平台介入后仍判定退款成功。

问题在于，该图片存在明显AI痕迹：柔软布料上出现类似陶瓷的坚硬裂纹。经朋友和AI助手鉴定，确认图片经过AI修改，“纹理过于规整，缺乏真实材质的物理逻辑”。尽管于瑾提交证据申诉，平台未采纳，最终由平台垫付50元退款。

类似案例在“双11”期间集中爆发。“AI假图+仅退款”成为新套路，部分用户利用免费AI工具生成破损、污渍等虚假图片，骗取退款后将商品转售牟利。

键盘商家柑橘也遇到相同情况。一位买家在签收半个月后上传键帽开裂、变形的图片申请退款。对比发现，该图与买家此前发布的评价图构图、背景、光影完全一致，仅添加了夸张损坏痕迹。平台此次驳回申请并关闭退款通道。

上图为买家评价图，下图为AI假图。图源：受访者供图

值得注意的是，涉事买家并非职业羊毛党，而是普通大学生。AI工具的普及使得零技术基础的个体也能快速生成具备欺骗性的证据链，极大降低了作恶门槛。

AI黑稿横行，公关陷入被动自证困局

电商平台的AI造假只是冰山一角。在内容领域，AI生成的虚假新闻、企业黑稿、名人换脸视频等问题日益严重。

公关从业者齐云曾服务一家上市公司，半年前发现一篇公众号文章称其董事长办公室挂有K线图，财务总监发表敏感言论。实际情况是：办公室无此图，财务总监姓名不符。文章细节丰富却纯属虚构，属于典型的AI黑稿。

为删除该文，齐云团队耗时两天，逐一举证：提供公章投诉函、高管真实姓名、交易所公告截图等。即便如此，首次申诉仍被平台驳回。“你造我的谣，我还要给你举证”，他坦言过程繁琐且荒诞。

更普遍的是真假混杂的非典型AI黑稿。MCN机构利用AI批量生成耸动标题与“内幕消息”，通过流量吸引投资群用户，进而卖课变现。有机构日均生成4000至7000篇假新闻，日收入超万元。

2024年6月，央视曝光一MCN机构利用AI自动抓取信息、生成图文并包装成“热点新闻”进行流量变现。上月底，小鹏汽车亦遭AI色情视频攻击，画面与展台高度吻合，引发广泛误传。警方调查确认系一名男子“炫耀技术”所为，非真实事件。

平台机制滞后，技术治理缺位

当前，AI生成内容管理主要依赖“打标签”方式，对用户上传的AI图片或视频添加“AI生成”标识。但文字类内容尚无有效识别机制，处于监管真空。

技术上，AI文本检测仍不成熟。即便是学术圈采用的“AI率”检测工具，也被频繁质疑误判率高、可靠性差。面对海量AI内容，平台缺乏高效识别手段。

与此同时，AI助手本身也在助长造假便利性。一句“让这张橙子看起来坏了”，即可生成带霉斑的逼真图片，甚至主动提议配套视频制作。

图为AI生成的食物变质照片。图源：豆包App生成

在算法推荐机制下，低成本、高刺激的AI内容更容易获得传播优势，挤压真实信息生存空间。“高质量内容被淹没了”，齐云指出，如今舆情应对已不再是智力博弈，而是与机器生成的荒诞内容反复拉扯。

最终，他选择转岗。“一个公关不该整天研究怎么投诉、怎么对抗平台算法。”但他也清楚，多数人无法轻易离开。当造假成本趋近于零，而维权成本成百倍增加，个体被迫承担本应由技术系统解决的问题。

文中受访者皆为化名。

【声明】内容源于网络

创业邦

创业邦是领先的国际创新生态服务平台，为高成长企业、金融机构、产业园区、地方政府提供全方位的媒体资讯、数字会展、数据研究、创新咨询、教育培训、资本对接等服务。公司及旗下基金获得IDG资本、DCM、红杉中国、北极光创投、顺为资本、腾讯投资、盛景投资、宜信、GGV等10余家世界顶级投资机构支持，并形成长期紧密的战略合作关系。

内容 14380

粉丝 0

创业邦山东创业邦创业服务有限公司创业邦是领先的国际创新生态服务平台，为高成长企业、金融机构、产业园区、地方政府提供全方位的媒体资讯、数字会展、数据研究、创新咨询、教育培训、资本对接等服务。公司及旗下基金获得IDG资本、DCM、红杉中国、北极光创投、顺为资本、腾讯投资、盛景投资、宜信、GGV等10余家世界顶级投资机构支持，并形成长期紧密的战略合作关系。

总阅读48.4k

粉丝0

内容14.4k