10月11日，有人在悬空寺的千年横梁上做引体向上。视频发出来，舆论哗然。但很多人的第一反应不是愤怒，而是迟疑——因为视频下方挂着一行平台自动标注的字：“可能含AI生成内容” 。
直到两天后景区通报证实，人才是真的，事也是真的。一个确凿的违规，在传播初期先被那行小字分流成了“这到底是不是AI”的围观。
几乎同一时间，另一批视频下方的标注，走向了完全相反的方向。
“小海”们对着镜头哭诉单亲、窘迫、三天没吃饭，喊中老年女性“姨姨妈妈”。账号老老实实按规矩标注了“内容由AI生成”，平台也附上了“请谨慎甄别”。但该下单的老人还是下单了，该坐火车去探望的还是去了。那行小字存在，骗局也完整地发生了。
同一个标识制度，在真实内容上制造了不必要的怀疑，在虚假内容上却没有拦住任何该拦住的东西。
“合规”了，但问题还在
《人工智能生成合成内容标识办法》的初衷很清楚：让AI内容亮明身份，降低公众辨别真假的成本。
但从落地效果看，标识更像是一个完成了的动作，而不是一个解决了的问题。
吴越被AI换脸带货的案例里，运营方“仅在视频角落用极小字体标注‘含AI生成内容’”。从行政合规的角度看，标了。从实际效果看，一个刷到“吴越推荐护肤品”的普通用户，大概率不会先去找角落里那行灰色小字。骗局的链条没有因为标注而断裂，只是在法律文本上被补了一个免责的注脚。
光明网的文章把话说得很重：标注“AI生成”不但没有起到拦截作用，“相反更像是虚假内容欺诈合规化的通行证”。
这话刺耳，但逻辑是通的。当“已标注”成为平台和账号的免责依据，审核的重心就从“内容是不是骗人的”滑向了“标签是不是贴了”。
算法认“反常”，不认“真假”
悬空寺那一侧的误判，暴露的是另一个盲区。
平台判定“可能含AI”的依据，很大程度上是画面特征、运动轨迹这类表层线索。一个人在千年横梁上做引体向上，这个场景“不合常理”，算法就把它归进了“疑似生成”。
问题在于，“反常”不等于“虚假” 。真实世界里确实有人在文物上做引体向上，这个事实本身就够离谱，但它不需要AI来伪造。算法用“像不像真的”来判断“是不是真的”，结果把一个真实的违规，先包装成了一个疑似造假的段子。
误判的代价不是均摊的。被标错的真实内容，要自己承担“被当成假的”的传播损耗；而被标对的虚假内容，只需要在角落放一行小字，就能继续完成它的变现。
标识完成了合规，治理还没有
把两件事放在一起看，标识制度现在的状态是：该拦的没拦住，不该拦的误伤了。
平台不是没有能力做更多。光明网的文章指出，平台完全可以加强对账号真实身份和内容真实性的审核，尝试在审核环节直接过滤掉“AI小海”类账号，而不是等用户刷到之后自己去辨认那行小字。悬空寺事件也提示，识别算法需要迭代，误判需要复核和申诉渠道，不能“一标了事”。
但这些都是需要成本的。而贴一行小字，几乎不产生什么成本。
所以现在的局面是：标识制度提供了合规的底线，但没有提供治理的上限。账号完成了标注义务，平台完成了提示义务，然后骗局继续，误判继续。那行小字像一个已经交差的动作，至于交差之后事情有没有变好，不在这个动作的负责范围里。
写到这里
标识本身没有错。在一个AI可以批量制造“苦命孩子”和“明星带货”的环境里，让生成内容亮明身份，是必要的第一步。
但第一步走完之后，需要有人接着走第二步：看那行小字有没有真的改变什么。是让骗局更难成立了，还是只是让骗局多了一个“已标注”的章？
如果答案是后者，那标识就只是一份写得很工整的免责声明。而骗局，从来不读免责声明。
END
“观世界才有世界观”
关注本公众号，带你重新审视这个世界