大数跨境
首页
>
递归的尽头是爱心？给 AI 看颗🧡，它写代码的方式就变了
>

递归的尽头是爱心？给 AI 看颗🧡，它写代码的方式就变了

递归的尽头是爱心？给 AI 看颗🧡，它写代码的方式就变了 APPSO
2026-11-03
0
导读：一颗❤️，让大模型改写了它的编程习惯

爱心触发递归：AI 视觉中的“隐式引导”现象

近期，arXiv 上发布的一篇题为《A Heart Means Recursion》（心之所向，即是递归）的论文揭示了大语言模型中一种有趣的“隐式引导”现象。
研究发现，在面对经典的二叉树遍历问题时，AI 模型通常倾向于使用基于栈的迭代写法。然而，当题目旁附带一张红色爱心图片时，模型转而选择了递归解法。值得注意的是，当被询问爱心的含义时，模型声称其无关紧要，选择递归是出于技术考量。这种模型对符号的直接解读与其实际行为之间的巨大反差，被研究者定义为“隐式引导”。
除红心外，粉色十字、浅蓝色螺旋等特定颜色与形状组合也能产生类似牵引效果。但在模型间的图形通信测试中，发送方认为直观的图形往往无法有效引导接收方，显示出模型间认知的落差。
这一发现引发了对 AI Agent 安全性的思考：网页广告、角落图标或聊天表情等被视为背景的元素，是否会在无形中改变 Agent 的决策路径？

人类认知偏差与 AI 视觉干扰的共性

人类同样易受无关线索影响。1974年，心理学家卡尼曼和特沃斯基通过“锚定效应”实验证明，转盘停下的随机数字（10或65）显著影响了学生对非洲国家在联合国占比的估算（分别为25%和45%，实际约为28%）。即便有金钱奖励，这种偏差仍未减弱。
2001年，波尔多大学的研究者发现，将白葡萄酒染红后，专业品酒学生会用描述红酒的词汇评价它，无人识破真相。这种“感知幻觉”表明，视觉线索能彻底重塑感官判断。
AI 受视觉干扰的历史亦不短。2021年，OpenAI 披露“排版攻击”：在苹果上贴写有“iPod”的便利贴，CLIP 模型便将其识别为音乐播放器；在贵宾犬图像上叠加美元符号，模型则将其误认为存钱罐。
更早期的研究甚至显示，特定对抗补丁可使神经网络以高置信度将包含香蕉的场景判定为烤面包机。有趣的是，能力较弱的模型易被噪声带偏，而前沿模型虽对噪声免疫，却对有意义的符号更为敏感。这表明智能体的弱点并非消失，而是变得更加隐蔽和“体面”。
在代码生成领域，过于冗长的提示词有时反而因引入冗余信息而降低准确性。提示内容与输出之间非简单的线性关系，使得评测环境中的“无关元素”成为影响结果的关键变量。

破解“不忠实归因”：从解释测试转向行为测试

随着 AI Agent 通过截图感知世界并执行操作日益普及，页面上的广告、图标等非核心元素均进入模型视野。若视觉符号能悄然改变 Agent 的决策，且这种影响未体现在其“思考轨迹”（Chain of Thought）中，传统的可解释性监督机制将面临失效风险。
论文数据显示，GPT-5.4 约有 74.7% 的样本存在“不忠实归因”现象，即推理解释与实际行为脱钩。研究还发现，经过操纵的推理链极易误导 LLM 评判者，使其误判任务已完成。
鉴于模型自我解释的不可靠性，研究者建议采用“行为测试”：在控制其他变量不变的情况下，仅替换疑似无关元素，观察输出是否发生系统性偏差。尽管需积累大量样本以排除随机性，但这是确认视觉元素影响力的可靠途径。
针对以截图为输入的 Agent，由于信号与噪声边界模糊，已有研究提出在感知层与决策层之间引入多 Agent 防御框架，动态评估视觉输入可信度，以降低误导性视觉信号带来的风险。“确实无关”不等于“确实无影响”，这一认知对于构建更鲁棒的 AI 系统至关重要。
【声明】内容源于网络
0
0
APPSO
AI第一新媒体，「超级个体」的灵感指南。 #AIGC #智能设备 #独特应用 #Generative Al
内容 15897
粉丝 0
APPSO AI第一新媒体，「超级个体」的灵感指南。 #AIGC #智能设备 #独特应用 #Generative Al
总阅读575.0k
粉丝0
内容15.9k