通过网站日志分析，会发现搜索引擎蜘蛛抓取了一些网站上不存在的文件后缀，如：.php、.asp、.aspx等。
搜外网站后台日志分析结果如下图：
image.
搜外主站实际上不存在php后缀的URL地址。
可通过robots.txt文件禁止蜘蛛抓取不存在的后缀，减少出现404返回值。
在robots.txt文件填写屏蔽规则如下：
Disallow: /*.asp$
Disallow: /*.php$
Disallow: /*.aspx$
注意前面一个*，后面一个$，代表后缀。
参考搜外的robots.txt文件写法，点击这里
来源：搜外网
301永久重定向是一种HTTP状态码，使浏览器或搜索引擎知道该网页已永久移动到另一个网址。这种重定向通常用于网站重新设计、更改域名或更改URL结构的情况下。它会直接跳转到新的网址，而不是像302临时重定向那样保留原始URL。301永久重定向可以保持网站的搜索引擎排名和链接值，并帮助用户找到正确的网页，提高用户体验。
网址规范化（URL canonicalization）是SEO工作中经常遇到，因而必须了解的一个重要步骤。就我检查过的网站来看，99%的网站有各种各样、程度不同的URL规范化问题。什么是网址规范化？网址规范化问题指的是网站上由于种种原因，同一个页面出现多个网址，搜索引擎挑选显示的URL有可能不是最恰当的、站长想要的那个URL网址。网址规范化就是通过一些SEO技术手段，帮助搜索引擎判断出真正的、站长
Robots META标签中没有大小写之分，name="Robots"表示所有的搜索引擎，可以针对某个具体搜索引擎写为name="BaiduSpider"。 content部分有四个指令选项:index、noindex、follow、nofollow，指令间以","分隔。INDEX 指令告诉搜索机器人抓取该页面;FOLLOW 指令表示搜索
Robots META标签中没有大小写之分，name=”Robots”表示所有的搜索引擎，可以针对某个具体搜索引擎写为name=”BaiduSpider”。 content部分有四个指令选项：index、noindex、follow、nofollow，指令间以“,”分隔。INDEX 指令告诉搜索机器人抓取该页面；FOLLOW 指令表示搜索机器人可以沿着该页面上的链接继续抓取下去；Robots Me
