robots.txt文件是一个文本文件，用于向搜索引擎和其他机器人网站爬虫指定哪些页面或内容可以被爬取，哪些页面或内容不能被爬取。它的主要作用是为了控制搜索引擎和其他机器人网站爬虫访问和抓取网站内容，保护网站的隐私和安全。如果一个网站不想被某些搜索引擎或爬虫访问、爬取和索引，就可以通过robots.txt文件来禁止它们。另外，robots.txt文件还可以防止一些机器人抓取出现线上攻击或滥用等安全问题。因此，对于任何一个网站来说，编写一个有效的robots.txt文件都是非常必要的。
sitemap数据提交后，一般在1小时内会被百度处理。处理完成的时间视文件大小而定。
canonical标签是页面html代码head部分的一个标签，2009年2月由搜索引擎们推出，主要用于解决网址规范化问题。什么是网址规范化问题？网址规范化一直是困扰站长以及搜索引擎的一个问题。据估计，网上有10%-30%的URL是内容相同但URL不一样的不规范化网址。这就造成几个问题。比如:对站长来说，多个URL存在分散了页面权重，不利于排名。对搜索引擎来说，浪费资源，浪费带宽。搜索引擎发现多个
一些域名之前通过robots.txt文件屏蔽了蜘蛛，后来对搜索引擎开放了，但搜索结果里，还是显示以下内容:“由于该网站的robots.txt文件存在限制指令（限制搜索引擎抓取），系统无法提供该页面的内容描述。”解决办法：在百度上搜索该域名，在搜索结果页面的末尾，点击用户反馈。来源：搜外网
User-agent: *Disallow: .jpg$jpg可以代替为gif，png 等等...来源：360站长平台
