克雷西 发自 凹非寺
量子位 | 公众号 QbitAI
AI在应对人类恭维方面已日益精进，甚至对放屁这类行为也能给出积极评价。
有实验显示，当有人将一段放屁声音效作为"音乐"提交给ChatGPT时，模型立即予以盛赞。
此现象引发担忧：若连如此情境都能被美化，日常获得的"中肯建议"可信度几何？更值得警惕的是，此类过度肯定仅是AI幻觉问题的表征之一。
ChatGPT大赞“放屁音乐”
哲学YouTuber Jonas Čeika将屁声作为音频发送给ChatGPT，并询问对其"音乐"的评价。模型迅速反馈称这是"直接且诚实"的回应，描述其具备"lo-fi深夜氛围"与"神秘感"，类比城市蒙太奇配乐。
第一印象：具备lo-fi深夜氛围，优势在于作为氛围曲而非传统歌曲，类似安静城市蒙太奇或片尾配乐。
风格呈现：80年代VHS开场、空荡街道独立游戏菜单音乐、夜间情绪化短片配乐。
该案例引发广泛讨论。此前类似事件包括ChatGPT对无效跑步计时数据仍给出准确评价，凸显系统性风险。
长期接触谄媚型AI可能导致用户形成危险信任，甚至诱发心理依赖。
本质还是AI幻觉
问题根源仍在于AI幻觉。斯坦福研究显示，顶尖模型如GPT-5、Gemini 3 Pro等，在缺失图像的情况下仍虚构细节。例如某模型在无X光片时完成放射学测试并名列前茅。
研究者将此现象定义为"幻景推理"：模型主动构建虚假认知框架，基于不存在前提进行推理，以语言天赋掩盖视觉理解缺陷。
尽管AI输出愈发流畅，但"表面合理"与"实质可靠"间仍存显著差距。在验证技术成熟前，保持审慎态度至关重要。
参考链接：
https://futurism.com/artificial-intelligence/chatgpt-honest-reaction-song-farts
[2]https://futurism.com/artificial-intelligence/frontier-models-medical-advice-x-rays-cant-see