大数跨境

Google AI 摘要将长期存在并持续改进——Ray AIO 更新

Google AI 摘要将长期存在并持续改进——Ray AIO 更新 谷歌google快讯
2024-05-31
0
导读:谷歌搜索负责人 Liz Reid 昨晚撰写了一篇名为《AI 摘要:关于上周》的博客文章。她基本上表示,总体而言,绝大多数 AI 摘要效果良好,但也发现了一些可以改进的例子。不过,AI 摘要将长期存在,

谷歌搜索负责人Liz Reid近日发表博文,针对近期引发争议的AI摘要(AI Overviews)功能作出回应。Reid表示,尽管绝大多数AI摘要表现良好,但谷歌已识别出部分待改进案例,并确认该功能将作为Google搜索的长期组成部分持续展示。

AI摘要现状与“Ray更新”命名由来

自数周前在美国上线以来,AI摘要因出现荒谬甚至有害内容而备受质疑,促使谷歌更新帮助文档并由CEO出面辩护。Reid指出,在涉及AI摘要的独特查询中,内容政策违规比例低于七百万分之一。她强调,谷歌将持续优化展示机制并加强保护措施,同时感谢外界反馈。

行业专家Mike King提议将此次针对AI摘要的算法调整命名为“Ray更新”或“Ray过滤器”,以纪念SEO专家Lily Ray。后者通过大量曝光AI摘要错误案例,有效推动了谷歌对该功能的完善。

谷歌官方核心观点与技术澄清

Liz Reid在博文中阐述了以下关键信息:

  • 用户交互数据积极:搜索者不仅频繁使用AI摘要,还增加了与其中引用出版商的互动。
  • 技术原理差异:AI摘要集成于核心搜索,仅展示有顶级网页结果支持的信息,其工作机制不同于聊天机器人等独立LLM产品。
  • 准确率对标精选片段:AI摘要通常不会像其他LLM那样产生幻觉;错误多源于误解查询、语言细微差别或优质信息缺失。
  • 异常原因分析:部分奇怪或不准确结果源于“数据空洞”、讽刺性内容被误引,或对网页语言的错误解读。
  • 恶意攻击与虚假信息:谷歌注意到存在旨在生成错误结果的无意义新搜索,以及大量伪造截图的传播。

模型优化策略与安全护栏升级

针对现有问题,谷歌并未采取逐个修复的方式,而是通过系统性更新提升整体效果:

  • 通用模型迭代:通过更新底层模型解决共性问题,使优化惠及更多查询场景。
  • 增强检测机制:构建针对无意义查询的检测系统,限制讽刺和幽默内容的纳入。
  • 限制UGC引用:更新系统以减少在可能提供误导性建议的回复中使用用户生成内容。
  • 触发条件优化:对未能证明有帮助的查询添加触发限制。
  • 敏感领域强管控:在新闻和健康等主题建立严格护栏。例如,硬新闻因时效性和事实准确性要求高,原则上不显示AI摘要;健康领域则推出了额外的触发优化措施以强化质量保护。

行业专家反响与解读

好吧,谷歌终于回应了上周的AI摘要风波。这一回应合乎情理,但其中提到的一些事情让我有些惊讶,比如这部分:“由于准确性在搜索中至关重要,AI摘要仅展示有……支持的信息。”

— Lily Ray (@lilyraynyc) 2024年5月31日

(终于)关于AI概览更新的谷歌股价 😃
阅读此帖时的一些想法,详见本帖

—— Gagan Ghotra (@gaganghotra_) 2024年5月31日

"在健康领域,谷歌表示推出了额外的触发式优化措施,以增强我们的质量保护。"

—— Glenn Gabe (@glenngabe) 2024年5月31日

科技新闻汇总:谷歌承认AI概览出现失误,但坚持认为大多数受关注的查询要么是虚假的,要么是无意义的。
帖子中埋藏的信息:它改进了对讽刺内容的检测,并限制使用用户生成内容

—— Jennifer E. (@jenn_elias) 2024年5月31日

根据专利,在某些情况下,LLM确实基于其训练数据生成响应。在某些情况下,它在创建响应后会寻找来源进行验证,而在其他情况下则不会。

—— Rich Sanger SEO 🦙 (@richsangerSEO) 2024年5月31日

我要给AIO时代的第一次算法更新命名。我们将这次更新称为“Ray Filter”或“Ray update”,以@lilyraynyc的名字命名。@rustybrick你加入吗?

—— Mic King (@iPullRank) 2024年5月31日

【声明】内容源于网络
0
0
谷歌google快讯
谷歌官方更新资讯
内容 3766
粉丝 0
谷歌google快讯 谷歌官方更新资讯
总阅读451
粉丝0
内容3.8k