Markdown 是一种轻量级纯文本语言,人类和机器均可轻松阅读。当前一种新兴的搜索可见性策略是为生成式 AI 机器人提供网页的 Markdown 版本,旨在通过减少爬取资源消耗来协助机器人获取内容,从而鼓励其访问页面。
部分 SEO 从业者的孤立测试显示,采用 Markdown 后来自 AI 机器人的访问量有所增加,但并未转化为更好的可见性。目前已有 Cloudflare 等现成工具可降低实现门槛。
向用户和机器人提供不同版本的页面并非新事物,这种做法被称为“伪装”。根据 Google Search Central 指南,该行为长期以来被视为垃圾行为。
然而,AI 场景下的意图有所不同:其目的并非操纵算法,而是为了让机器人更便捷地访问和阅读页面。
该策略是否有效?
这并不意味着该策略一定有效。在实施前请务必审慎考虑以下风险:
- 功能性问题:页面的 Markdown 版本可能无法正常运行,例如按钮失效等。
- 架构缺失:Markdown 页面可能丢失页脚、页眉、内部链接(如“相关产品”)及第三方用户评论等关键元素,导致大型语言模型失去重要的信任信号上下文。
- 滥用风险:若该策略成为主流,网站可能会注入仅面向 AI 机器人的独特产品数据或说明。
为机器人创建专属页面往往会稀释链接权威性和品牌标识等关键信号。始终如一的最佳实践是构建对人类和机器人都同样友好的网站。此外,LLM 代理的核心目标之一是像人类一样与网络交互,提供差异化版本并无实际意义。
Google 和 Bing 的代表近期也表达了相同观点。Google 高级搜索分析师 John Mueller 指出:“LLM 从一开始就训练于读取并解析普通网页,因此它们处理 HTML 似乎不成问题。为什么它们要去看用户看不到的页面呢?”
Bing 首席产品经理 Fabrice Canel 则表示:“……真的想要加倍爬取负载吗?我们无论如何都会爬取以检查相似性。非用户版本(如可爬取的 AJAX 等)往往被忽视或损坏。人工审核有助于修复人和机器人都能看到的内容。”

