进入移动时代，同学们肯定会发现，百度官方和各知名SEO大拿们都在不断强调一个词：速度！最重要的莫过于，从用户点击搜索结果到页面完全加载完毕，不可超过3秒，否则有可能被限制展现（因为百度做过测试，当页面在3秒以上还无法打开的话，用户会选择关闭该网页）。于是大家各种针对速度的问题也多了起来，在深圳VIP大讲堂中，我们看到了这样一个简单的对话：
同学问：站点遇到百度蜘蛛抓取，应该在多长时间内给出反馈？时间太长会不会被惩罚？
工程师答：1秒是最好，最多4至5秒也可以接受，如果时间再长，恐怕蜘蛛会过段时间再来了。当然如果这种情况经常发生，对你站点的抓取是非常不利的。
在深圳Baiduspider3.0主题的高端沙龙中，我们的高级工程师也有这样一页PPT，其中提到历史抓取效果好和服务器稳定的站点，Spider会优先抓取处理。
来源：百度搜索资源平台 百度搜索学堂
Baiduspider的user-agent为：Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)。
在网站根目录下的 robots.txt 文件可以用来告诉搜索引擎蜘蛛（包括百度蜘蛛）哪些页面可以访问，哪些页面不可访问。通过设置 robots.txt 文件，可以控制蜘蛛的爬取范围，减少不必要的流量消耗。 以下是一个提供给百度蜘蛛的 robots.txt 示例： ``` User-agent: Baiduspider Disallow: /path/to/disallowed/page.htm
PC搜索完整UA：Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html）移动搜索完整UA：Mozilla/5.0 (Linux;u;Android 4.2.2;zh-cn;) AppleWebKit/534.46 (KHTML,like Gecko) Version/5.1 Mobile
Baiduspider是一个蜘蛛爬虫的用户代理（User-Agent），可以通过检查HTTP请求的User-Agent中是否包含字符串“Baiduspider”来识别它。 以下是Python代码示例： ```python import re def is_baiduspider(user_agent): if re.search('Baiduspider', user_agent):
