robots.txt 是一个标准，它通过提供一些规则，告诉搜索引擎爬虫哪些网页可以被爬取，哪些网页不应该被爬取。但是，一些搜索引擎爬虫可能会忽略这些规则，直接抓取它们想要的网页。 此外， robots.txt 文件的存在只是一个建议而不是命令。在一些情况下，搜索引擎爬虫可能会收录被 robots.txt 文件所屏蔽的网页，这有可能是因为发布这个网页的人想要让它被收录，也有可能是因为机器人误解了 robots.txt 文件。 因此，网站所有者仍然需要使用其他策略，如更新网页的元标记和标题标签，以及在页面上指示搜索引擎不索引。
链接深度是指从某一页面开始往下浏览的页面层数。例如，从网站的首页，点进一个链接，从该链接进入了网站的第二层，此时的链接深度为2。链接深度有利于更好地理解网站的结构，也有助于搜索引擎优化等。
面包屑(Bread Crumbs)即把用户从根路径开始一级级带到当前页面的导航处理，它有助于用户更轻松的在网站中定位，也是界面的一个组成部分。 面包屑导航的原理是根据不同的页面来分页导航，从而一步步把用户从根页面引导至当前页面，维护着你当前的层级关系，面包屑导航的起源于古代的标记路径的方法，用来返回当前位置的最初出发地，即从哪里出发。 面包屑导航有助于用户快速定位当前页面位置，并有助于减少
什么是robots文件Robots是站点与spider沟通的重要渠道，站点通过robots文件声明本网站中不想被搜索引擎收录的部分或者指定搜索引擎只收录特定的部分。搜索引擎使用spider程序自动访问互联网上的网页并获取网页信息。spider在访问一个网站时，会首先会检查该网站的根域下是否有一个叫做 robots.txt的纯文本文件，这个文件用于指定spider在您网站上的抓取范围。您可以在您的网
robots.txt文件应该放在网站根目录下。举例来说，当robots访问一个网站时，首先会检查该网站中是否存在这个文件，如果机器人找到这个文件，它就会根据这个文件的内容，来确定它访问权限的范围。
