OpenAI最新研究论文探讨了GPT-5等大型语言模型及ChatGPT等聊天机器人产生幻觉的原因，并分析了减少幻觉的可行路径。
在总结博文中，OpenAI将幻觉定义为“由语言模型生成的看似合理但虚假的陈述”，并承认尽管已有改进，幻觉“仍是所有大型语言模型的根本性挑战”，且无法被完全消除。
幻觉成因：预训练机制与低频事实
研究人员以论文作者之一Adam Tauman Kalai为例进行测试：当向某主流聊天机器人询问其博士论文标题时，得到了三个不同的错误答案；询问生日时，同样收到了三个不同的错误日期。
针对这种“自信地犯错”现象，研究指出根源在于预训练过程侧重于预测下一个词，而训练数据缺乏真假标签。模型仅能学习流畅语言的正面示例并近似整体分布。正如文中所述：“拼写和括号遵循一致规律，随规模扩大错误会消失；但宠物生日等任意低频事实无法仅凭模式预测，从而导致幻觉。”
解决方案：重构评估激励机制
该论文提出的解决方案较少关注初始预训练，而是聚焦于如何评估大模型。文章指出，当前评估虽不直接导致幻觉，却“设置了错误的激励”。
研究人员将现有评估比作多项选择题测试：随机猜测可能碰巧答对，留空则保证零分。因此，“当模型仅以答对百分比评估时，会被鼓励去猜测而非承认‘我不知道’。”
对此，OpenAI建议引入类似SAT考试的评分机制，即“对自信的错误施加比不确定性更大的惩罚，并对恰当表达不确定性的行为给予部分分数”。研究人员强调，仅在旁引入少量考虑不确定性的新测试是不够的，必须更新广泛使用的基于准确率的评估体系，使其评分机制能够抑制猜测行为。“如果主要排行榜继续奖励侥幸猜对的行为，模型就会继续学习去猜测。”