用几个最常见的情况，直接举例说明：
1. 允许所有SE收录本站：robots.txt为空就可以，什么都不要写。
2. 禁止所有SE收录网站的某些目录：
User-agent: *
Disallow: /目录名1/
Disallow: /目录名2/
Disallow: /目录名3/
3. 禁止某个SE收录本站，例如禁止百度：
User-agent: Baiduspider
Disallow: /
4. 禁止所有SE收录本站：
User-agent: *
Disallow: /
5. 加入sitemap.xml路径
1. 使用301跳转，将301跳转设置为静态资源； 2. 使用通用引擎脚本，如PHP、ASP或Perl脚本，实现编写代码实现301跳转； 3. 如果需要对不同参数进行重定向，则可以对每个参数创建一个重定向规则； 4. 如果需要重定向大量的网页，则创建.htaccess文件，并使用表达式及RewriteRule TIPS的语法编写大量的重定向规则； 5. 使用CDN数据中心，如Cloud
您可以在少数频繁更改的 Sitemap 中列出已更新的网址，然后使用 Sitemap 索引文件中的 lastmod 标记识别这些 Sitemap 文件。随后，百度即可逐步抓取这些已更改的 Sitemap。
通过网站日志分析，会发现搜索引擎蜘蛛抓取了一些网站上不存在的文件后缀，如：.php、.asp、.aspx等。搜外网站后台日志分析结果如下图：image.搜外主站实际上不存在php后缀的URL地址。可通过robots.txt文件禁止蜘蛛抓取不存在的后缀，减少出现404返回值。在robots.txt文件填写屏蔽规则如下：Disallow: /*.asp$Disallow: /*.php$Disallo
