Google 发言人 Gary Illyes 就大型语言模型(LLM)的使用发出警示,强调用户在采纳 LLM 生成的答案前,务必核实权威来源。尽管其具体回应的问题未公开,但该声明主要针对 AI 问答应用场景。
LLM 答案引擎的局限性
随着 OpenAI 推出 SearchGPT 原型等 AI 搜索引擎的发展,Gary Illyes 针对 AI 生成内容的准确性提出了专业见解。他指出,虽然“事实依据”技术通过将 LLM 与网页数据库及知识库连接,旨在提升回答基于权威事实的概率,但该技术并非完美无缺,仍无法完全杜绝错误。
“LLM 基于训练数据生成符合上下文语境的词语和句子,确保回复的相关性与连贯性,但这不等同于事实正确。用户仍需结合自身知识或查阅权威资源来验证答案。
‘事实依据’虽有助于提高准确性,但不能替代人类的判断力。互联网充斥着有意或无意的虚假信息,既然你不会轻信网络上的所有内容,为何要盲目相信 LLM 的回复?甚至这篇帖子本身也可能是由 LLM 生成的。”
AI 内容的事实核查与权威性
Gary Illyes 的观点揭示了语境相关性与事实准确性之间的区别。对于内容出版商而言,权威性和可信度是 Google 排名的核心要素。在使用生成式 AI 辅助创作时,持续核实事实至关重要,以免因内容失实而损害网站权威性。同样,对于依赖 AI 获取信息的用户来说,保持批判性思维并进行事实核查也是必不可少的步骤。

