1. 不需要在每个页面都添加robots.txt文件：robots.txt文件只是一份给搜索引擎看的指令，如果不希望搜索引擎从该页面抓取数据，那么每一页都是可以不用添加robots.txt文件的。 2. 不能用于移动设备：robots.txt文件可用于搜索引擎爬虫，但也可以在部分机型的移动设备上进行yu处理，可以用于控制移动设备的蜘蛛爬行进行内容抓取。 3. 不应该将robots保存到公用文件夹：如果存放在公用文件夹，所以网站确实包含多个链接，则所有用到robots.txt文件的页面都将使用同一份robots文件。需要将robots.txt文件放在每个页面的根目录下来避免混淆和混合索引。
什么是301转向？301转向(或叫301重定向、301跳转)是用户或蜘蛛向网站服务器发出访问请求时，服务器返回的HTTP数据流中头信息(header)部分状态码的一种，表示本网址永久性转移另一个地址。怎么判断一个网站有没有做301转向？例如：我们在浏览器上输入不带www的域名baidu.com，自动跳转到带www的域名http：//www. baidu.com，说明这个网站是有做301。很多大型的
HTML版本网站地图指的是一种包含网站所有页面的列表，可以直接在网站上进行访问和浏览的网页。它以HTML标记语言格式编写，被搜索引擎和爬虫程序识别，方便这些程序对网站内部链接结构的探索和索引。 网站地图主要有以下作用： 1.帮助搜索引擎和爬虫程序更好地索引网站，提高网站在搜索引擎中的排名； 2.方便用户快速找到需要的信息，提高用户体验； 3.展示网站的结构和内容，提升网站的可视性和可访问性
Robots META标签中没有大小写之分，name=”Robots”表示所有的搜索引擎，可以针对某个具体搜索引擎写为name=”BaiduSpider”。 content部分有四个指令选项：index、noindex、follow、nofollow，指令间以“,”分隔。INDEX 指令告诉搜索机器人抓取该页面；FOLLOW 指令表示搜索机器人可以沿着该页面上的链接继续抓取下去；Robots Me
用几个最常见的情况，直接举例说明:1. 允许所有SE收录本站:robots.txt为空就可以，什么都不要写。2. 禁止所有SE收录网站的某些目录:User-agent: *Disallow: /目录名1/Disallow: /目录名2/Disallow: /目录名3/3. 禁止某个SE收录本站，例如禁止百度:User-agent: BaiduspiderDisallow: /4. 禁止所有SE收录
