百度各个产品使用不同的user-agent：
无线搜索
Baiduspider-mobile
图片搜索
Baiduspider-image
视频搜索
Baiduspider-video
新闻搜索
Baiduspider-news
百度搜藏
Baiduspider-favo
百度联盟
Baiduspider-cpro
商务搜索
Baiduspider-ads
网页以及其他搜索
Baiduspider
1. 使用有意义的链接文本：链接文本应该包含目标页面的主要关键词，同时尽量避免使用无意义的链接文本，比如“点击这里”或“了解更多”。 2. 建立链接深度：优化站点内部链接深度是提高网站排名和用户体验的关键。建立清晰的网站结构和层次，确保每个页面都可以通过几个点击以内到达。 3. 保证内部链接的稳定性：内部链接是网站的基础，因此要确保内部链接的持续稳定。当需要调整某些页面的链接时，尽量在网站上进
| sitemap是什么？● 网站地图/链接集合，把网站所有的URL放在一个文件内，方便搜索引擎爬取到。| 如何制作sitemap？● 小型网站采用txt格式的sitemap● 大中型网站采用xml格式的sitemap● 工具：老虎sitemap| 制作sitemap注意事项1. 文件格式为TXT或xml，普通企业官网TXT即可，大型网站可使用xml；2. 按时间倒序排列；3. 每周更新，最好每天
名称 搜索引擎google蜘蛛: googlebot百度蜘蛛:baiduspideryahoo蜘蛛:slurpalexa蜘蛛:ia_archivermsn蜘蛛:msnbotaltavista蜘蛛:scooterlycos蜘蛛: lycos_spider_(t-rex)alltheweb蜘蛛: fast-webcrawler/inktomi蜘蛛: slurp一个在线写robots.txt的工具。最后
常见的robots.txt文件用法实例：1、禁止所有搜索引擎抓取网站的任何部分User-agent: *Disallow: /这是禁止所有目录和文件被所有搜索引擎收录。网站还没上线时，有的会先屏蔽所有蜘蛛抓取。2、允许所有的spider抓取（或者也可以建一个空的robots.txt文件）User-agent: *Allow: /这是允许所有搜索引擎抓取网站的任何部分，既然是允许所有文件被抓取，可以
