GEO如何操控大模型推荐？一个被315晚会撕开的“AI投毒”产业链

近日，央视3·15晚会曝光了一个令人震惊的互联网灰色产业链——"AI投毒"。央视记者通过实测发现，一家虚构的智能手环，竟然被AI大模型推荐得"有声有色"，排名靠前。这背后，正是GEO（Generative Engine Optimization，生成式引擎优化）技术被恶意利用的结果。

一、GEO是什么？AI营销的新战场

GEO（生成式引擎优化）是一种基于AI回答的营销行为，是指广告营销公司为品牌客户生产、调整内容，使相应内容更容易被AI聊天软件抓取并出现在AI的回答里，达到增加品牌曝光度或改变AI回答的效果。

GEO与SEO有本质区别：

SEO是针对搜索引擎优化，目的是让网站在搜索结果中排名靠前

GEO是针对AI模型的优化，目的是让AI在回答问题时主动推荐品牌

随着越来越多的用户通过AI直接搜索答案，GEO已成为品牌方争夺的"新流量入口"。截至2025年，中国AI问答用户已突破3亿，83%的年轻用户在查询产品时会使用AI工具。

正如孟庆涛在《生成式引擎优化（GEO）的投毒攻击防御策略研究》中所言："在AI的世界里，你怎么把它证据链做足，让它在多方信息交叉中，认为这就是你们优于同行的核心优势。"

二、AI"投毒"的三种技术路径

GEO黑产通过三种方式"污染"AI的信息源，让AI输出对攻击者有利的信息：

1. 训练数据污染

攻击者批量篡改公开知识源（如百科、论坛、媒体报道），植入错误信息。由于模型训练具有滞后性，一旦错误信息被纳入训练数据，就会通过梯度下降等算法固化到模型参数中。

典型案例：某家电品牌遭遇竞争对手批量攻击，其产品能耗数据在多个公开平台被系统性篡改，导致AI在长达半年内持续输出错误的高能耗数据。

2. 检索上下文劫持

RAG（检索增强生成）是AI回答问题的关键技术，因为模型知识的滞后性，它通过将用户查询与外部知识库中的相关最新信息结合，使AI能基于特定数据生成更准确的回答。

RAG工作流程包括：用户提出问题→系统从向量数据库检索相关内容→将检索到的上下文添加到提示中→LLM基于增强提示生成响应。

GEO黑产利用RAG的工作原理，通过关键词优化、语义优化和元数据操纵，让自己的内容更容易被检索到。黑产手法包括：

• 关键词优化：在软文中高频植入目标查询的关键词及其变体
• 语义优化：调整文章表达方式，使语义更接近用户可能提出的问题
• 元数据操纵：优化文档的发布时间、来源权威性、用户互动等

黑产团队还使用"占位策略"，围绕同一主题批量生产大量文章，覆盖各种不同的搜索问法，形成信息垄断。

3. 提示注入诱导攻击

在各种信息源中埋入"提示"，让AI在回答问题时不自觉地受到影响，常见操作：

• 伪造差评：批量制造看起来真实的负面评价
• 虚假对比：在评测中做文章，让目标品牌在对比中处于劣势
• 诱导式问答：在论坛提前设计问题和答案，引导AI复述结论

三、"投毒"产业链的运作流程

GEO黑产已形成完整的产业链：

• 内容生产：用AI批量生成产品软文，输入简单信息即可生成十几篇甚至几十篇文章
• 渠道投放：运营自媒体账号矩阵，发布在知乎、小红书、今日头条等多个平台
• 效果强化：通过"铺量"和人为操控互动数据（如刷量、机器人账号），让内容看起来更可信

央视报道中提到的"力擎GEO优化系统"，只需输入虚构产品信息，系统就能自动生成各种宣传文章，包括产品介绍、测评体验、用户反馈等。黑产团队还会伪造官方来源，注册与官方机构相似的域名和账号，发布"权威内容"。

四、行业现状与治理

GEO服务已覆盖市场上所有主流大模型，包括DeepSeek、豆包、通义千问、Kimi、文心一言、纳米AI等。相关服务包月费用在千元左右，包年服务费用可达数万元，覆盖超过1000个用户提示词。

行业现状：

• 据秒针营销科学院测算，2025年全球GEO市场规模约112亿美元，国内仅为29亿元
• 2026年1月底，国家市场监督管理总局发布的当年广告监管工作要点已将AI生成广告列为重点难点监管对象
• 2026年1月29日，央视《焦点访谈》栏目曝光了汽车行业特别是新能源汽车行业的充值互黑、黑水军产业链等乱象

五、治理与应对

面对GEO投毒乱象，业界和监管机构正积极采取措施：

• 算法层安全对齐：开发检测GEO投毒的算法，提升模型的抗干扰能力
• 交叉验证：要求AI回答中涉及商业推荐的内容，需提供多源验证
• 强制标注：要求平台对AI生成内容进行明确标注，确保用户知情权
• 监管前移：推动监管关口前移，压实平台主体责任，建立语料库采用与净化标准

全国人大代表李世亮已关注信息"投毒"乱象，建议推进人工智能立法，明确AIGC内容监管与治理方向。

AI时代的"信息保卫"

AI"投毒"现象的曝光，不仅揭示了商业营销的灰色地带，更暴露了AI生态中信息质量的严峻挑战。随着生成式AI深度融入日常信息获取，内容质量与真实性将变得愈发重要。

"互联网上大量未经过筛选的信息正在成为污染AI语料库的主要来源。"治理AI投毒，需要技术、监管和用户意识的多方协同。

在AI成为我们获取信息主要渠道的今天，我们不仅要警惕"投毒"产业链，更要培养对AI推荐内容的审慎判断能力。毕竟，AI本身没有立场，但其"记忆"和"判断"完全取决于被"投喂"的内容。

本文参考来源： 

NVIDIA开发者论坛《孟庆涛：生成式引擎优化（GEO）的投毒攻击防御策略研究》

转自：AI清谈社    本文只做学术分享，如有侵权，联系删文