360搜索对Robots协议进行了扩展，增加了以下几个指令： 1. User-Agent：用于指定搜索引擎访问网站时使用的用户代理字符串，可以设置多个User-Agent。 2. Crawl-delay：用于指定搜索引擎访问网站时的延迟时间，单位为秒。可以设置针对不同的User-Agent的延迟时间。 3. Sitemap：用于指定网站的sitemap文件的地址，搜索引擎将通过该文件获取站点的所有URL。 4. Host：用于指定网站的主机名，可以避免因为DNS变化导致搜索引擎爬虫无法访问网站。 5. Clean-param：用于指定需要从URL中移除的参数，搜索引擎在访问网站时会忽略URL中包含的这些参数。 6. Noindex-nofollow：用于指定不需要被搜索引擎收录或链接的页面。 这些指令的使用可以让网站管理员更加灵活地控制搜索引擎爬虫的访问行为，以达到更好的SEO效果。
1. 确定网站结构：首先需要确定网站的主要部分，例如首页、产品分类、文章分类、关于我们等等部分。 2. 创建列表：将每个部分的页面名称和 URL 地址列成列表，同时确定网站的层次结构，如何连接这些页面。 3. 添加链接：在每个页面的底部添加一个链接，指向站点地图页面，让用户可以访问站点地图。 4. 设计页面：设计一个清晰简洁易懂的页面，将列表添加到页面上。 5. 考虑 SEO：为站点地图添
nofollow内部链接不会传递权重给链接指向的页面，因此不会影响内部链接的权重分布。相反，它可以帮助控制页面的链接流量分配，避免流量浪费在不需要的页面上。如果一个页面有大量的被nofollow的链接，这些链接所指向的页面就不会得到与其他链接相同数量的流量。因此，nofollow内部链接可以作为一种有效的优化策略，帮助页面优化链接权重分配和流量分配。
网站上有些页面不希望被搜索引擎收录，我们可以使用robots的文件或者meta robots 标签。什么是meta robots 标签？meta robots 标签是页面head部分meta标签的一种，用于指令搜索引擎禁止索引（收录）本页内容。meta robots 标签的写法：<meta name=”robots”content=”noindex,nofollow”>标签的意义：禁止
robots文件是搜索生态中很重要的一个环节，同时也是一个很细节的环节。很多站长同学在网站运营过程中，很容易忽视robots文件的存在，进行错误覆盖或者全部封禁robots，造成不必要损失！那么如果误操作封禁了robots怎么办？今天我们请到了厦门258网站运营负责人——郑军伟，为我们分享网站robots误封禁后该如何操作？【案例背景】网站开发2.0版本，技术选择了在线开发，为了避免搜索引擎抓取开
