大数跨境

SEO:理解 XML 站点地图

SEO:理解 XML 站点地图 电商实践
2012-06-29
2
导读:XML 站点地图在搜索引擎优化中扮演着非常细分的角色:促进收录。发布 XML 站点地图,就像为搜索引擎铺上红地毯,并为它们提供一条通过网站的优选路线路线图。这是网站所有者向搜索

XML 网站地图在搜索引擎优化中服务于一个非常专业的目的:促进收录。发布 XML 网站地图就像是为搜索引擎铺上红地毯,并为它们提供通过网站的优选路线路线图。这是网站所有者向爬虫传达“如果你们能特别关注这些 URL,我将不胜感激”的机会。搜索引擎是否接受关于抓取哪些 URL 的建议,取决于网站发出的信号。

什么是 XML 站点地图?

简而言之,XML 站点地图是一段可扩展标记语言(XML)代码。XML 是一种标准的机器可读格式,可被搜索引擎和其他数据密集型程序(如 Feed 阅读器)解析。XML 站点地图传达的信息只有一项:构成网站的 URL。每个 XML 站点地图文件都遵循相同的基本格式。位于 www.example.com 的单页网站将拥有如下 XML 站点地图:

放大此图片

示例 XML 站点地图文件

每个 XML 网站地图文件的 XML 版本和 urlset 都是相同的。对于列出的每个 URL,都需要 <url> 和 <loc> 标签,以及可选的 <lastmod>、<changefreq> 和 <priority> 标签。上面用红色标出的 URL 信息表示每个 URL 变化的内容。<loc> 标签仅包含页面的绝对 URL 或定位符。<Lastmod> 指定文件的最后修改日期。<Changefreq> 指示文件更改的频率。<Priority> 指示文件在网站内的重要性。避免将所有 URL 设置为每日频率和最高优先级的诱惑。没有多页网站是这样结构和维护的,因此如果频率和优先级标签不能反映实际情况,搜索引擎更倾向于忽略整个 XML 网站地图。

XML 站点地图中的 URL 可以位于同一域名、不同的子域名或不同的域名上。然而,每个 XML 文件最多只能包含 50,000 个 URL,且文件大小限制为 10MB。为了节省带宽并限制文件大小,可以使用 gzip 压缩 XML 站点地图。当网站包含的 URL 超过 50,000 个或达到 10MB 时,需要生成多个 XML 站点地图,并通过一个 XML 站点地图索引文件将它们调用在一起。与 XML 站点地图列出网站中的 URL 类似,XML 站点地图索引列出的是网站的 XML 站点地图。下面概述了每个列出的 XML 站点地图中需要修改的部分:

放大此图片

示例 XML 站点地图索引文件

如需更多 XML 网站地图示例,请浏览任何站点并在域名后输入 sitemap.xml。例如,https://www.practicalecommerce.com/sitemap.xml 是该站点的 XML 网站地图索引。如果添加 sitemap.xml 不起作用,则 XML 网站地图可能以其他名称命名。尝试检查 robots.txt 文件,看看其中是否有 XML 网站地图地址。例如,查看 http://www.dell.com/robots.txt 以获取庞大的 XML 网站地图列表。

应排除的内容

由于 XML 站点地图作为一组推荐爬取的链接,任何非规范 URL 都应从 XML 站点地图中排除。在 robots.txt 文件中被禁止的任何 URL——例如安全的电子商务页面、重复内容以及页面的打印版和邮件版——也不应包含在 XML 站点地图中。同样,通过 robots noindex 元标签和规范标签排除在爬取之外的任何文件也不应包含在 XML 站点地图中。如果爬虫在 XML 站点地图中发现通过上述方式故意排除在爬取之外的 URL,会发出矛盾的信号:“不要爬取这个 URL。但请认为它比我网站上其他 URL 更重要。”爬虫将遵守由 robots.txt 禁止指令和 meta robots noindex 发出的爬取排除命令。但如果存在足够多的这种矛盾信号,XML 站点地图的可信度可能会受损,从而失去其推荐能力。

如何创建 XML 站点地图

在最简单的情况下,小型网站可以轻松使用上述示例作为格式指南,手动创建并发布自己的 XML 站点地图。例如,一个非常小的电子商务网站可能在六个月内持续提供相同的五款产品。尽管网站可能每隔一个月左右更新一次内容以保持新鲜感,但网站的 URL 保持不变。这个只有五款产品的网站可以轻松地在记事本中创建一个符合 XML 站点地图格式的文本文件,并将该文件保存为 sitemap.xml。剩下的工作只需将 sitemap.xml 发布到网站的根目录,XML 站点地图即可生效。六个月后,当产品发生变化时,只需更新 sitemap.xml 文件并将其重新发布到根目录即可。

对于规模较大且变更更频繁的站点,许多电子商务平台可用的插件或模块可以自动化创建和发布 XML 网站地图。基于 Drupal 或 WordPress 构建的站点可以使用所有在一的 XML 网站地图插件,如 Drupal 的 XML Sitemap Module 或 Better WordPress Google XML Sitemaps,以定期生成并发布其文件。如果站点的平台不支持自动化 XML 网站地图,像 gSite Crawler 这样的免费软件可以通过 FTP 自动化创建和发布 XML 网站地图。寻找遵守 robots 排除协议(如 robots.txt 中的 disallow 指令和 meta robots noindex 标签)的 XML 网站地图程序,以确保被排除的文件不会出现在 XML 网站地图中。

有关 XML 网站地图的更多详细信息,请参阅 Sitemaps.org。

推广 XML 站点地图

XML 网站地图需要推广。幸运的是,其目标受众非常小,只需几个快速步骤即可实现。首先,通过在站点 robots.txt 文件的任意位置添加以下行,使 XML 网站地图可自动发现:Sitemap: http://www.example.com/sitemap-index.xml

当信誉良好的爬虫访问网站时,它们会首先查看 robots.txt,以确定哪些文件应该被爬取,哪些应该被避免。在此过程中,爬虫会从 autodiscovery 行中识别出 XML sitemap,并将其作为第二个访问目标。随后,它会带着网站推荐的文件列表继续进行其余的爬取工作。

推广 XML sitemap 的第二步是将其提交到 Google 和 Bing 的网络管理员工具网站。autodiscovery 行将确保 Googlebot 和 Bingbot 在下次访问时找到该 XML sitemap,而下次访问的时间可能取决于网站的爬取频率,甚至可能长达一个月。直接向它们的工具网站提交 XML sitemap 会促使它们更快地爬取该 sitemap,通常会在接下来的几小时内完成。此外,搜索引擎的工具网站还提供有关 XML sitemap 中 URL 的额外数据,例如已索引的数量以及 XML sitemap 本身是否有效。

XML Sitemap 的迷思

由于 XML sitemap 相对冷门,它积累了一套有趣的“神话般”的力量和迷信说法。以下是我关于 XML sitemap 最喜欢的一些疑问和反对意见。

  • “在 XML 网站地图中包含 URL 就能保证它被收录。”
    并非如此。重要的是要注意,XML 网站地图仅是建议。XML 网站地图并不能保证所包含 URL 的收录。

  • “如果我在XML站点地图中遗漏某个URL,它就会被取消索引。”
    并非如此。XML站点地图并不会排除对未包含在其中的URL的索引;它只是一组推荐的URL,只要这些推荐与网站其他部分发出的信号一致,就会为其中包含的URL带来比网站上其他URL更高的额外重要性。

  • “创建和维护XML站点地图很困难。”
    并非如此。在最简单的情况下,小型网站可以轻松地手动创建并发布自己的XML站点地图,以上述示例作为格式指南。对于规模较大或更频繁更新的网站,大多数电子商务平台提供的插件或模块可以自动化XML站点地图的创建和发布过程。

  • “发布XML站点地图就像主动请求被爬取和垃圾信息骚扰。”
    并非如此。XML站点地图不过是一串URL列表。爬虫和垃圾信息发送者可以轻松抓取任何他们希望访问的公开网站,从中生成URL和内容列表以窃取网站内容用于其不良目的。他们根本不需要XML站点地图就能做到这一点,而不发布XML站点地图也无法阻止爬虫和垃圾信息发送者。

【声明】内容源于网络
0
0
电商实践
电商实践
内容 8035
粉丝 0
电商实践 电商实践
总阅读1.1k
粉丝0
内容8.0k