用几个最常见的情况，直接举例说明:
1. 允许所有SE收录本站:robots.txt为空就可以，什么都不要写。
2. 禁止所有SE收录网站的某些目录:
User-agent: *
Disallow: /目录名1/
Disallow: /目录名2/
Disallow: /目录名3/
3. 禁止某个SE收录本站，例如禁止百度:
User-agent: Baiduspider
Disallow: /
4. 禁止所有SE收录本站:
User-agent: *
Disallow: /
5. 加入sitemap.xml路径,例如:
来源：360站长平台
树状结构不是指的URL的层次，而是指的网站的结构，SEO优化网站结构一般来说网站结构为树状结构比较吸引搜索引擎喜欢，根目录下以目录形式分成多个产品分类，再每个产品分类放置属于这个分类的产品页面。举个例子：当你进入图书馆的时候，会看到图书馆以学科的内容分成几大类，每一大类下分许多小类，每一小类下再分子小类。最后，每一种书都可以分到某一个类目下，每一个类目都有一个类号 。同理搜索引擎希望网站的类目都是
面包屑(Bread Crumbs)即把用户从根路径开始一级级带到当前页面的导航处理，它有助于用户更轻松的在网站中定位，也是界面的一个组成部分。 面包屑导航的原理是根据不同的页面来分页导航，从而一步步把用户从根页面引导至当前页面，维护着你当前的层级关系，面包屑导航的起源于古代的标记路径的方法，用来返回当前位置的最初出发地，即从哪里出发。 面包屑导航有助于用户快速定位当前页面位置，并有助于减少
Robots META标签中没有大小写之分，name="Robots"表示所有的搜索引擎，可以针对某个具体搜索引擎写为name="BaiduSpider"。 content部分有四个指令选项:index、noindex、follow、nofollow，指令间以","分隔。INDEX 指令告诉搜索机器人抓取该页面;FOLLOW 指令表示搜索
| 什么是robots文件？Robots是站点与spider沟通的重要渠道，是网站与搜索引擎爬虫之间的协议，告知哪些可抓取哪些不允许。| 为什么要做robots文件？网站上总有一些页面是禁止蜘蛛抓取的。例如：搜索页面、筛选页面、后台登录地址等。| 如何制作 robots文件？编写robots.txt文件并上传到网站根目录。| 制作 robots.txt注意事项● 所有搜索引擎则用星号表示● All
