名称 搜索引擎
google蜘蛛: googlebot
百度蜘蛛:baiduspider
yahoo蜘蛛:slurp
alexa蜘蛛:ia_archiver
msn蜘蛛:msnbot
altavista蜘蛛:scooter
lycos蜘蛛: lycos_spider_(t-rex)
alltheweb蜘蛛: fast-webcrawler/
inktomi蜘蛛: slurp
一个在线写robots.txt的工具。
最后需要注意，robots.txt文件名必须是小写，而且放在网站根目录
来源：360站长平台
301重定向是什么页面永久性移走（301重定向）是一种非常重要的“自动转向”技术。网址重定向最为可行的一种办法。当用户或搜索引擎向网站服务器发出浏览请求时，服务器返回的HTTP数据流中头信息(header)中的状态码的一种，表示本网页永久性转移到另一个地址。301永久重定向对SEO无任何不好的影响，而且网页A的的权重都会传达给网页B，对于搜索引擎优化、网站优化来说，给搜索引擎一个友好的信息，告诉它
根据以往的SEO工作经验，另搜索引擎头痛的问题，往往是来自过于复杂的网址结构，它让SEO的效果大打折扣，往往事倍功半。当你试图运营一个站点的时候，合理的设计网址结构，看起来十分重要，为此，我们有必要对网址命名规则进行研究。网址命名规则：避免使用复杂网址结构！常见的网址命名规则：1、网址格式统一你是否在IIS下，使用过.woff字体的经历，在使用子目录，嵌套子站点的时候，如果配置不当，往往造成网址出
头条搜索Robots匹配说明是指在头条搜索引擎中，用户输入的搜索关键词与已经编写好的机器人规则进行匹配，用以判断搜索结果的排序和展示方式。这些机器人规则是由头条搜索建立的算法模型，通过对用户的搜索历史、搜索习惯、查询的信息内容等多方面的分析，提供给用户最符合其需求的搜索结果。Robots匹配在很大程度上影响用户在头条搜索引擎中的搜索体验和结果准确性。
在进行网站优化的时候，经常会使用robots文件把一些内容不想让蜘蛛抓取，以前写过一篇网站优化robots.txt文件的运用 现在写这篇文章在补充一点点知识!什么是robots.txt文件搜索引擎通过一种爬虫spider程序(又称搜索蜘蛛、robot、搜索机器人等)，自动搜集互联网上的网页并获取相关信息。鉴于网络安全与隐私的考虑，搜索引擎遵循robots.txt协议。通过根目录中创建的纯文本文件r
