Categories


Tags


robots.txt文件的格式

robots文件往往放置于根目录下,包含一条或更多的记录,这些记录通过空行分开(以CR,CR/NL,or NL作为结束符),每一条记录的格式如下所示:

"<field>:<optional space><value><optionalspace>"

在该文件中可以使用#进行注解,具体使用方法和UNIX中的惯例一样。该文件中的记录通常以一行或多行User-agent开始,后面加上若干Disallow和Allow行,详细情况如下:

User-agent:该项的值用于描述搜索引擎robot的名字。在"robots.txt"文件中,如果有多条User-agent记录说明有多个robot会受到"robots.txt"的限制,对该文件来说,至少要有一条User-agent记录。如果该项的值设为*,则对任何robot均有效,在"robots.txt"文件中,"User-agent:*"这样的记录只能有一条。如果在"robots.txt"文件中,加入"User-agent:SomeBot"和若干Disallow、Allow行,那么名为"SomeBot"只受到"User-agent:SomeBot"后面的 Disallow和Allow行的限制。

Disallow:该项的值用于描述不希望被访问的一组URL,这个值可以是一条完整的路径,也可以是路径的非空前缀,以Disallow项的值开头的URL不会被 robot访问。例如"Disallow:/help"禁止robot访问/help.html、/helpabc.html、/help/index.html,而"Disallow:/help/"则允许robot访问/help.html、/helpabc.html,不能访问/help/index.html。"Disallow:"说明允许robot访问该网站的所有url,在"/robots.txt"文件中,至少要有一条Disallow记录。如果"/robots.txt"不存在或者为空文件,则对于所有的搜索引擎robot,该网站都是开放的。

Allow:该项的值用于描述希望被访问的一组URL,与Disallow项相似,这个值可以是一条完整的路径,也可以是路径的前缀,以Allow项的值开头的URL是允许robot访问的。例如"Allow:/hibaidu"允许robot访问/hibaidu.htm、/hibaiducom.html、/hibaidu/com.html。一个网站的所有URL默认是Allow的,所以Allow通常与Disallow搭配使用,实现允许访问一部分网页同时禁止访问其它所有URL的功能。

使用"*"and"$":Baiduspider支持使用通配符"*"和"$"来模糊匹配url。

"*"匹配0或多个任意字符

"$"匹配行结束符。

最后需要说明的是:百度会严格遵守robots的相关协议,请注意区分您不想被抓取或收录的目录的大小写,百度会对robots中所写的文件和您不想被抓取和收录的目录做精确匹配,否则robots协议无法生效。

robots.txt文件用法举例

来源:百度搜索资源平台


Public @ 2015-08-19 16:08:59

URL的优化

网站结构优化是SEO的主要工作之一,对大中型网站来说更是重点和难点。URL的优化是结构优化的基础内容。URL处理不好,经常造成页面收录问题,就更谈不上排名和流量了。其实URL的优化是相对简单的部分,因为是SEO自己完全可以掌控的,只需要注意一些细节。下面总结几条关于URL优化的经验和技术要求。1)域名的选择如果是在五六年年前,我会告诉大家域名中最好放上关键词。不过现在建议大家域名中能放关键词最好,

Public @ 2016-02-03 16:11:10

动态URL是什么?动态URL有什么特点?

动态URL(Dynamic URL)是一种包含动态参数的URL地址,这些参数可以随着不同的请求而生成不同的URL。动态URL通常用于动态网页的生成和查询,例如搜索引擎结果页面、电子商务网站的商品页面等。 动态URL的特点包括: 1. 包含动态参数,这些参数会随着用户的不同请求而改变。 2. 动态URL的内容可以是从数据库中动态生成的。 3. 动态URL可能会出现重复内容,因为同一内容可能有不同的

Public @ 2023-06-17 04:00:18

robots协议

 Robots协议(也称为爬虫协议、机器人协议等)的全称是“网络爬虫扫除规范”(RobotsExclusionProtocol),网站经过Robots协议通知查找引擎哪些页面可以抓取,哪些页面不能抓取  是查找引擎的一部分来定位和索引互联网上的每个可能答复查找恳求的网页,一般只在评论robots的HTML标签或许robots.txt文件的时分运用。

Public @ 2010-10-17 15:26:25

更多您感兴趣的搜索

0.444102s