Sitemap协议的类型有三种： 1. XML Sitemap：用于搜索引擎的索引。包含了网站中所有重要的URL地址，可以帮助搜索引擎更好地索引和排名网站。 2. Image Sitemap：用于搜索引擎的索引图片。包含了网站中的图片URL地址和相关信息，可以使搜索引擎更好地索引和展示网站内的图片。 3. Video Sitemap：用于搜索引擎的索引视频。包含了网站中的视频URL地址和相关信息，可以使搜索引擎更好地索引和展示网站内的视频。 Sitemap协议的包含范围： Sitemap协议包含网站中所有被搜索引擎认为重要的网页地址，包括首页、文章页、分类页、标签页、产品页等；图片Sitemap包含所有重要的图片地址和相关信息；视频Sitemap包含所有重要的视频地址和相关信息。
用几个最常见的情况，直接举例说明：1. 允许所有SE收录本站：robots.txt为空就可以，什么都不要写。2. 禁止所有SE收录网站的某些目录：User-agent: *Disallow: /目录名1/Disallow: /目录名2/Disallow: /目录名3/3. 禁止某个SE收录本站，例如禁止百度：User-agent: BaiduspiderDisallow: /4. 禁止所有SE收录
网站上有些页面不希望被搜索引擎收录，我们可以使用robots的文件或者meta robots 标签。什么是meta robots 标签？meta robots 标签是页面head部分meta标签的一种，用于指令搜索引擎禁止索引（收录）本页内容。meta robots 标签的写法：<meta name=”robots”content=”noindex,nofollow”>标签的意义：禁止
问sitemap里爬出了心中链接，要将它改成静态的吗？使用sitemap工具，生成了sitemap，里面有大量的转码链接，这些链接都是tag页的。11-8.应该是TAG和html之间的这个应该是调用的什么东西，在浏览器里会变成中文。sitemap里不用改，这个可以吗？像这样 html结尾的，就是静态页面。在sitemap里，就是这个地址。 浏览器里是显示为中文E6%AF%8D%E5%A
sitemap异常原因解释解决方法爬虫被封禁可能是您的网站对Bytespider的UA或IP进行封禁建议您根据我们公布的UA和IP进行解封，第二天重新抓取之后会恢复正常sitemap文件数据量过大可能是您的sitemap节点数量超过了5w个建议您拆分为几个小的sitemap文件sitemap地址非法可能是您的sitemap地址不可访问或者存在xml和txt混合模式的数据建议您按照我们的要求提交si
