通过网站日志分析，会发现搜索引擎蜘蛛抓取了一些网站上不存在的文件后缀，如：.php、.asp、.aspx等。
搜外网站后台日志分析结果如下图：
image.
搜外主站实际上不存在php后缀的URL地址。
可通过robots.txt文件禁止蜘蛛抓取不存在的后缀，减少出现404返回值。
在robots.txt文件填写屏蔽规则如下：
Disallow: /*.asp$
Disallow: /*.php$
Disallow: /*.aspx$
注意前面一个*，后面一个$，代表后缀。
参考搜外的robots.txt文件写法，点击这里
来源：搜外网
站内链接的合理建设是SEO的重要技术之一，它的优化能使网站整体获得搜素引擎的价值认可，特别是百度。如何网站把站内链接做得足够好，能大大提升关键词在百度中的排名。下面卢松松讲从5个方面来说明如何建立站内链接。一：制作网站导航制作网站导航栏的注意事项有：第一，尽量使用文字链接；第二，不要使用JS调用方式，尽量使用CSS特效方式；第三，图片导航的ALT一定要加入说明；第四，导航名称一定要通俗易懂。关于网
1. 链接相关性：优化内部链接时，需要考虑链接之间的相关性。内部链接应该帮助读者更好地理解内容，而不是简单地为了链接而链接。 2. 锚文本：锚文本是指链接的显示文字。优化内部链接时，应该使用有意义的锚文本，而不是简单的“点击此处”或“了解更多”。锚文本应该涵盖链接指向的页面的主要主题。 3. 快速连接：内部链接应该简洁明了，直接指向相关的主题/页面，不要让读者反复点击才能找到他们需要的信息。
1. 下面是一个拒绝所有机器人访问的robots.txt： ``` User-agent: * Disallow: / ``` 2. 下面的robots.txt用于阻止百度搜索引擎访问整个站点： ``` User-agent: Baiduspider Disallow: / ``` 3. 下面的robots.txt文件用于阻止所有搜索引擎访问以private开头的任何URL： ```
robots.txt文件通常放在网站的根目录下，即与主页文件（如index.html）同一级目录下。例如，如果网站的域名是www.example.com，那么robots.txt文件的完整路径可能是www.example.com/robots.txt。
