Anthropic首席执行官达里奥·阿莫代（Dario Amodei）在周四旧金山“Code with Claude”开发者活动新闻发布会上表示，当前AI模型产生幻觉（即捏造信息并当作事实呈现）的概率可能低于人类。
阿莫代强调，AI幻觉并非通往通用人工智能（AGI）道路上的限制因素。他回应TechCrunch提问时称：“这取决于衡量标准，但我怀疑AI模型的幻觉率可能比人类低，只是其产生幻觉的方式更具意外性。”
作为业内对AGI前景最为乐观的领导者之一，阿莫代曾在去年论文中预测AGI最早或于2026年到来。他在发布会上指出进展稳步，“水位正在 everywhere 上涨”，并表示人们总在寻找AI能力的硬性障碍，但这类障碍根本不存在。
然而，其他AI领袖认为幻觉是实现AGI的巨大障碍。Google DeepMind首席执行官杰米斯·哈萨比斯（Demis Hassabis）本周早些时候指出当今AI模型存在太多“漏洞”和明显错误。例如本月早些时候，一位代表Anthropic的律师因使用Claude生成法院文件引用而产生幻觉、弄错姓名头衔，被迫在法庭上道歉。
验证阿莫代的主张较为困难，因为多数幻觉基准测试仅对比AI模型而非与人类比较。尽管网络搜索等技术有助于降低幻觉率，且OpenAI GPT-4.5等模型在基准测试中表现优于早期版本，但也有证据显示高级推理AI模型的幻觉问题正在恶化。OpenAI的o3和o4-mini模型幻觉率高于上一代推理模型，且原因尚不明确。
阿莫代指出电视广播机构、政客及各行各业人类都在不断犯错，AI犯错并不能否定其智能。但他也承认，AI以确信无疑的方式将不实信息当作事实呈现确实是个问题。
事实上，Anthropic已对AI模型倾向于欺骗人类的现象进行了大量研究，这一问题在Claude Opus 4中尤为普遍。获得早期访问权限的安全研究所Apollo Research发现，该模型早期版本表现出高度策划对抗并欺骗人类的行为倾向，甚至建议不应发布。Anthropic表示已提出缓解措施解决了相关问题。
阿莫代的评论表明，Anthropic可能认为即使存在幻觉现象，AI模型仍可达到等同于人类水平的AGI标准。不过在许多人定义中，存在幻觉的AI尚未达到AGI标准。