想象一下：AI助手虽全能却不可靠
想象一下，你雇佣了一位精通20多种语言、拥有无数高级学位且薪资合理的行政助理。但他有高达四分之一的时间完全不可靠。
这就是当前人工智能（AI）的现状。尽管AI是复杂的技术和强大的业务增长驱动力，但如今的工具经常出错。一家数据分析初创公司发现，AI聊天机器人编造事实的频率在3%到27%之间，这些错误被称为“幻觉”。
以下是关于AI幻觉的定义、成因及五条预防建议。
什么是AI幻觉？
当生成式AI工具对用户提示做出回应时，提供了捏造的、不相关的、错误的或具有误导性的信息，即发生了AI幻觉。其主要表现形式包括：
- 事实错误：AI生成的内容包含不正确信息，如虚假陈述和误导性输出。
- 捏造：AI模型基于源材料中不存在的模式生成内容，引入新数据并将其作为事实呈现。
- 不相关：AI提供的信息虽然在源数据中正确，但与用户提示不符。
部分专家仅将“捏造”归类为幻觉，认为其他错误属于失误；但也有专家将所有三种错误统称为幻觉，因为它们均源于模型逻辑错误，并对AI应用构成挑战。
AI系统的3个组成部分
了解AI幻觉的成因，需先理解以下三种AI系统的工作原理：
- 机器学习模型
- 大型语言模型（LLM）
- 生成式模型
1. 机器学习模型
AI工具运行在机器学习模型上，该程序能从未处理的数据集中发现模式并做出预测。例如，通过输入已标记图像进行训练，模型可学会区分照片中是否包含人物，并对未标记图像自动分类。
2. 大语言模型
文本生成AI基于大语言模型（LLM）。开发人员通过深度学习算法输入大量源文本，算法识别模式并编写规则，这组规则集合即构成LLM。其应用包括长文本摘要、会议记录及客户服务聊天机器人等。
3. 生成式模型
生成式AI指能够创建图像、音乐或文本的工具，运行于特定类型的机器学习模型之上。这类模型也被称为“深度生成式模型”或“深度学习模型”，它们采用统计和基于规则的决策过程来预测句子中的下一个词。
AI幻觉的4大成因
- 低质量训练数据
- 外部数据问题
- 有缺陷的模型
- 糟糕的提示词
低质量训练数据
AI文本生成器仅复制训练数据中的模式。若数据存在偏见、错误或不足，AI便可能编造回复。例如，仅在男性牙医数据库上训练的模型，可能错误地声称所有牙医都是男性。
外部数据问题
部分生成器可访问互联网以补充最新信息，但因无法验证有效性且缺乏人工审查，易引入不准确信息。例如，Google AI曾因Quora论坛上的无意义帖子，向用户推荐了“applum, bananum”等虚构水果。
模型缺陷
开发人员在构建模型时会嵌入编码“假设”以指导数据处理。当用户提问时，模型会参考这些假设及训练阶段制定的规则。若两组规则出现矛盾，或模型设计不佳、假设过多，便容易产生幻觉。
糟糕的提示词
使用习语、模糊、宽泛、不切实际或缺乏上下文的提示词均可能导致幻觉。例如，询问“现在是否适合穿毛衣（sweater weather）”，模型可能误解习语而生成无意义回复。此外，针对模型的对抗性攻击输入也会诱发幻觉。
防止AI幻觉的5个技巧
虽然无法完全消除幻觉，但遵循最佳实践可降低出错概率：
- 按预期用途使用工具
- 保持清晰
- 将提示词分解为步骤
- 提供参数
- 核实信息
1. 将工具用于其预期用途
许多生成式AI工具目的狭窄。例如，Shopify Magic仅限于起草产品描述。选择合适工具才能获得准确信息。若要求科研工具写代码或法律工具引用科学文献，工具很可能拒绝或生成虚假信息。
2. 表述清晰
清晰直接的提示有助于生成准确答案。与其问“旧金山和纽约的律师名单”，不如问“在旧金山和纽约均设有办事处的律师事务所名单”。同时应避免使用习语或俚语，以免模型误读。
3. 将提示分解为步骤
提示越复杂，幻觉风险越高。分步执行可提高准确性并便于审查。例如，电商宠物食品公司若想增加收入，不应直接询问策略，而应分步进行：
① 生成分组顾客反馈趋势的类别列表；
② 识别并按影响力排序影响购买决策的因素；
③ 根据前两步结果推荐评论数据组织类别；
④ 识别各类别中的优势与劣势；
⑤ 基于上述信息推荐提高销售额的改进措施。
此方法不仅降低幻觉风险，还能让你理解工具的解决思路，及时发现并纠正错误。
4. 提供参数
可通过示例、来源限制等参数提升信息准确度。例如，在研究查询中限定“仅引用同行评审来源”或“忽略2008年前数据”，或使用数据模板规范信息处理方式。
5. 核实信息
人工监督是负责任使用AI的关键。请使用第三方来源对AI信息进行二次核实，并要求AI提供引用来源，以评估权威性并确认输出是否准确反映原始资料。
AI幻觉常见问题解答
AI幻觉发生的频率有多高？
研究显示，AI幻觉率在3%到27%之间。
AI幻觉可以被修复吗？
科技公司正积极寻求解决方案。例如，OpenAI推出了支持“带有人类反馈的强化学习（RLHF）”技术的工具，以降低幻觉率。
AI幻觉的一个例子是什么？
2023年，谷歌Bard声称詹姆斯·韦伯太空望远镜（JWST）拍摄到了首张太阳系外行星照片，但实际上在该望远镜发射十多年前，已有其他望远镜完成过此成就。