站点地图是一个网站所有链接的容器。很多网站的连接层次比较深，爬虫很难抓取到，站点地图可以方便爬虫抓取网站页面，通过抓取网站页面，清晰了解网站的架构，网站地图一般存放在根目录下并命名sitemap，为爬虫指路，增加网站重要内容页面的收录。站点地图就是根据网站的结构、框架、内容，生成的导航网页文件。站点地图对于提高用户体验有好处，它们为网站访问者指明方向，并帮助迷失的访问者找到他们想看的页面。
站点地图，是一种指明信息资源方位与联系，并且具有导航功能的可视化工具。其关键在于信息的获取、信息的检索、信息的表示和信息的关联四个方面。简而言之，就是以类似地图的形式，将主页的信息按照类日罗列起来，并提供相应的链接，它可以为用户提供主页的整体信息，是用户准确找到自己所需信息的快速入口 。
a：使用<nofollow>属性的链接不会被搜索引擎跟踪，更不会给链接传递权重。避免权重不必要的丢失，从而达到权重集中的目的。
| 什么是robots文件？Robots是站点与spider沟通的重要渠道，是网站与搜索引擎爬虫之间的协议，告知哪些可抓取哪些不允许。| 为什么要做robots文件？网站上总有一些页面是禁止蜘蛛抓取的。例如：搜索页面、筛选页面、后台登录地址等。| 如何制作 robots文件？编写robots.txt文件并上传到网站根目录。| 制作 robots.txt注意事项● 所有搜索引擎则用星号表示● All
通常情况下，sitemap提交后，百度会在1-2天内进行抓取。但具体时间也受到网站规模、更新频率、抓取限制等因素的影响。如果长期未被抓取，可以检查一下sitemap是否存在问题，并通过百度站长平台的工具进行排查。
ETag（Entity Tag）是HTTP协议中头部字段之一，它是服务器用来标识特定资源版本的字符串。 ETag的作用主要有以下几个： 1. 缓存控制：通过比较客户端请求中的If-Match或If-None-Match字段和服务器中资源的ETag值来判断资源是否可以使用缓存，从而控制浏览器是否需要重新请求资源。 2. 实现乐观锁定：ETag可以用来实现乐观锁定，即在多用户并发修改同一实体的情
