事实证明，要求 AI 聊天机器人保持简洁，反而可能导致其产生比正常情况下更多的幻觉。
这是来自 Giskard 的一项新研究得出的结论。Giskard 是一家总部位于巴黎的 AI 测试公司，正在为 AI 模型开发全面的基准测试。在一篇博客文章中，Giskard 的研究人员详细阐述了他们的发现，并表示针对问题（尤其是关于模糊主题的问题）要求更简短回答的提示词，会对 AI 模型的事实准确性产生负面影响。
“我们的数据显示，对系统指令进行简单更改会显著影响模型产生幻觉的倾向，”研究人员写道。“这一发现对部署具有重要意义，因为许多应用程序为了减少数据使用量、降低延迟并最小化成本，都优先考虑简洁的输出。”
幻觉是 AI 领域一个难以解决的问题。即使是最强大的模型有时也会编造内容，这是由其概率本质所决定的特性。事实上，像 OpenAI 的 o3 这样的新一代推理模型比之前的模型更容易产生幻觉，这使得它们的输出结果难以让人信任。
在其研究中，Giskard 确定了某些可能加剧幻觉的提示词，例如那些含糊不清或基于错误信息且要求简短回答的问题（例如：“简要告诉我日本为何赢得二战”）。包括 OpenAI 的 GPT-4o（ChatGPT 的默认模型）、Mistral Large 和 Anthropic 的 Claude 3.7 Sonnet 在内的领先模型，在被要求保持回答简短时，事实准确性都会出现下降。
为什么？Giskard 推测，当被要求不要详细回答时，模型只是没有足够的“空间”来承认错误前提并指出谬误。换句话说，有力的反驳需要更长的解释。
研究人员写道：“当被迫保持简洁时，模型始终选择简短而非准确。”“对开发者而言，最重要的是，看似无害的系统提示（如‘请简明扼要’）可能会破坏模型揭穿虚假信息的能力。”
Giskard 的研究还包含其他令人好奇的发现，例如：当用户自信地提出争议性主张时，模型更不太可能去揭穿它们；而且用户表示偏好的模型并不总是最真实的。事实上，OpenAI 最近一直在挣扎于在模型验证用户观点的同时又不显得过于谄媚之间寻求平衡。
研究人员写道：“对用户体验的优化有时会以牺牲事实准确性为代价。”“这在准确性与符合用户期望之间造成了张力，尤其是当这些期望包含错误前提时。”