用几个最常见的情况，直接举例说明：
1. 允许所有SE收录本站：robots.txt为空就可以，什么都不要写。
2. 禁止所有SE收录网站的某些目录：
User-agent: *
Disallow: /目录名1/
Disallow: /目录名2/
Disallow: /目录名3/
3. 禁止某个SE收录本站，例如禁止百度：
User-agent: Baiduspider
Disallow: /
4. 禁止所有SE收录本站：
User-agent: *
Disallow: /
5. 加入sitemap.xml路径
网站导航指什么？一般情况下，网站的栏目、文章分类、“您当前位置”等称为网站导航。比如 www.seowhy.com 这个网站的网站导航指：左侧文章分类、顶部功能分类、以及每篇文章的类别说明。网站导航的目的：告诉浏览者网站的主要内容和功能。告诉浏览者他们所在网站的位置。告诉浏览者他们访问过的页面。本站访问过的页面，链接变为紫色。网站导航如何SEO优化？在页脚添加一行关键词，并指向相应的页面。比如本站
1. 打开网站的.htaccess文件，添加以下代码： ``` Redirect 301 /old-page.html http://www.yourwebsite.com/new-page.html ``` 2. 在301重定向前，确保新页面已经正常运行，并且地址没有变更。 3. 如果有多个旧页面需要重定向，可以逐个添加301重定向代码。 4. 重定向的目标地址必须是正确的URL
robots.txt是一种存放于网站根目录下的文本文件，用于告诉搜索引擎的爬虫（spider），此网站中的哪些内容是不应被搜索引擎的索引，哪些是可以被索引。通常认为，robots.txt文件用来搜索引擎对目标网页的抓取。robots.txt协议并不是一个规范，而只是约定俗成的，通常搜索引擎会识别这个文件，但也有一些特殊情况。对于Google来说，使用robots也未必能阻止Google将网址编入索
Meta robots标签是一种HTML头部元数据标签，用于指示搜索引擎如何处理指定页面的内容。它告诉网络爬虫如何爬取索引优化。这些标签是在和之间添加的，旨在为“robots（搜索引擎蜘蛛）”提供有关如何索引和缓存页面内容的指令。 以下是meta robots标签的写法： - - - - 其中，“content”属性指定一组用逗号分隔的值，可以是以下之一： - index：告诉爬