10月，央视曝光了一件事。
一位79岁的老人，瞒着家人买了火车票，独自坐十几个小时，要去见一个叫“小海”的孩子。视频里，小海喊她“姨姨妈妈”，说自己三天没好好吃饭，声音哽咽。老人放心不下，想去看看他。
直到乘警在车厢里把她拦下，她才知道：那个孩子根本不存在，从头到尾都是AI生成的。
“小海”不止一个。央视调查发现，短视频平台上一批“苦命男孩”批量涌现，对着镜头喊“姨姨妈妈求求你别划走”，引流到商品橱窗，卖豆浆粉、抹布、翡翠吊坠。下单的，大多是中老年女性。
卖惨一直有，AI把它变成了流水线
过去的卖惨有个天然瓶颈：成本。写剧本、找演员、布景、拍摄，一个悲情故事得打磨到位才有人信。能跑出来的账号，数量有限。
AI把瓶颈拆了。凄凉剧本批量抓取，可怜面庞和微表情批量生成。惨人惨事无限量产，总有一款让你哭。 一个“小海”火了，很快冒出一群“小海”，话术雷同，画面相似，连哽咽的节奏都差不多。
从生成人设到引流变现，已经是一条跑通的链。
算法为什么不拦
普通用户刷几条都能觉出不对劲，平台审核系统不可能毫无感知。那为什么不拦？
因为悲情内容天然拉长观看时长，激发评论互动。老人停下来看，算法就认为“有效”，推给更多老人。在流量逻辑里，让老人抹眼泪的视频，数据上可能同样“优质”。
不是平台故意纵容骗局。但当拦截需要额外成本，而不拦截能带来停留和转化时，系统的默认选择往往是不作为。直到央视曝光，舆论压过来。
那行小字，挡不住任何人
按规定，这些账号标了“内容由AI生成”。但一个79岁老人刷视频，大概率不会注意角落里那行灰色小字。她看到的是一个孩子在哭，在喊她“妈妈”。
标识解决的是“告知”问题，骗局利用的是“情感”问题。告知挡不住情感。
谁在买单
躲在代码背后的团队，用近乎为零的边际成本批量生产“苦命孩子”，赚走货款。平台拿到了停留和转化数据。成本落在哪？落在一张十几个小时的火车票上，落在老人以为自己在帮一个苦孩子的念头上。
法律专家说得很清楚：数字人卖惨带货和真人卖惨，法律定性没有本质区别，涉嫌欺诈。平台也不能止步于打标签。
但“应该”和“做到”之间，隔着的正是那个已经坐上火车的老人。
写到这里
技术本身没有善恶。决定它往哪边走的，是使用它的人，和那个默许它流向老年人的推荐系统。
老人想去看一个不存在的人，是因为她心里有一个真实存在的空缺。骗局精准地找到了那个空缺，然后用一行没人看得见的小字，把责任推给了“已标识”。
END
“观世界才有世界观”
关注本公众号，带你重新审视这个世界