百度各个产品使用不同的user-agent：
无线搜索
Baiduspider-mobile
图片搜索
Baiduspider-image
视频搜索
Baiduspider-video
新闻搜索
Baiduspider-news
百度搜藏
Baiduspider-favo
百度联盟
Baiduspider-cpro
商务搜索
Baiduspider-ads
网页以及其他搜索
Baiduspider
301转向是指在网站代码中设置一个永久重定向，将一个网页的URL地址重定向到另一个URL地址。301转向的作用包括： 1. 改变URL结构时，将旧URL地址重定向到新URL地址，以保持搜索引擎的收录和排名。 2. 合并或重构网站时，将原来的网页重定向到新的网页，以避免404错误页面的出现，同时保留原来网页的SEO价值。 3. 修复破损的链接，将错误的URL重定向到正确的URL地址。 设置3
数据库驱动的网站需要将URL静态化，一直以来都是SEO最基本的要求，可以算是个常识性的东西。现在恐怕也没有不是数据库驱动的网站了吧。近几年SEO行业一致认为，URL中带2-3个问号不是问题，搜索引擎通常都能收录，尤其是权重高点的域名，更多几个问号也不是问题。但无论如何一般还是建议URL静态化。2008年9月份，Google站长博客发表了一篇讨论动态网址还是静态网址的帖子，却颠覆了这个说法。在这篇帖
名称 搜索引擎google蜘蛛: googlebot百度蜘蛛:baiduspideryahoo蜘蛛:slurpalexa蜘蛛:ia_archivermsn蜘蛛:msnbotaltavista蜘蛛:scooterlycos蜘蛛: lycos_spider_(t-rex)alltheweb蜘蛛: fast-webcrawler/inktomi蜘蛛: slurp一个在线写robots.txt的工具。最后
尊敬的用户： 为了更好地保护您的隐私和内容权益，百度搜索已经全新升级了robots协议。该协议将更加严格地限制搜索引擎爬取您的网站内容，以保障您的权益。 更新后的robots协议针对以下内容进行了调整： 1.增加禁止搜索引擎爬取的网页类型，如登录页、支付页、个人信息页等。 2.增加网站所有者对搜索引擎爬取的细节设置，包括最大爬取频率、爬取深度、爬取延时等。 3.优化 robots.txt
