通过网站日志分析，会发现搜索引擎蜘蛛抓取了一些网站上不存在的文件后缀，如：.php、.asp、.aspx等。
搜外网站后台日志分析结果如下图：
image.
搜外主站实际上不存在php后缀的URL地址。
可通过robots.txt文件禁止蜘蛛抓取不存在的后缀，减少出现404返回值。
在robots.txt文件填写屏蔽规则如下：
Disallow: /*.asp$
Disallow: /*.php$
Disallow: /*.aspx$
注意前面一个*，后面一个$，代表后缀。
参考搜外的robots.txt文件写法，点击这里
来源：搜外网
制作网站地图： 1. 确定网站结构：确定网站的所需页面、页面之间的关系以及内容分布。 2. 确定信息架构：根据网站结构，制定信息架构，将各个页面的内容划分为不同的类别和子类别。 3. 绘制网站地图：使用绘图工具或专业的网站地图制作软件绘制网站地图，将页面之间的关系以树状结构展示。 4. 确认并完善：与网站设计师、开发人员合作，确认网站地图是否准确无误，并根据实际情况进行完善。 提交网站地图：
什么是nofollow： 在html标签中，< a > 标签的rel 属性被用于说明当前文档与被链接文档的关系。而nofollow则是其中的一种属性值，其用法示例为： < a href="..." rel="nofollow" >...< /a > 其另一种使用方法，也是最原始的使用方法，是用于网页的元标签中，告诉搜
360搜索支持Robots协议的主要命令，以下为具体说明：1. user-agent360搜索各产品的爬虫user-agent为：- 网页搜索 360Spider- 图片搜索 360Spider-Image- 视频搜索 360Spider-Video2. Allow站长可通过Allow命令指定建议收录的文件、目录 。3. Disallow站长可通过Disallow命令指定不建议收录的文件、目录。
robots.txt文件的格式为： User-agent: [user-agent-name] Disallow: [URL path] 其中，[user-agent-name]指代搜索引擎爬虫的名称，[URL path]指代禁止访问的URL路径。在文件中可以定义多条User-agent和Disallow规则，每一条规则占一行，每一对规则之间要有一个空行。示例： User-agent: *
