Categories


Tags


360搜索对Robots协议的支持

360搜索支持Robots协议的主要命令,以下为具体说明:

1. user-agent

360搜索各产品的爬虫user-agent为:

- 网页搜索 360Spider

- 图片搜索 360Spider-Image

- 视频搜索 360Spider-Video

2. Allow

站长可通过Allow命令指定建议收录的文件、目录 。

3. Disallow

站长可通过Disallow命令指定不建议收录的文件、目录。


Public @ 2019-06-30 16:09:34

301设置:一定要做的集中权重的方法

| 什么是网站301?● 不带www的域名301到带www的域名● 老的链接301给新的链接| 为什么做网站301?● 权重集中● 权重传递| 如何做网站301?● 服务器上,宝塔面板● 服务器技术操作● IDC服务器面板上实现● 网站程序后台实现注:index不用301给主域名;动态URL不用301给伪静态链接。(搜外网)

Public @ 2017-01-20 16:09:38

禁止搜索引擎收录的方法

以下是禁止搜索引擎收录网站的方法: 1. Robots.txt文件 在网站根目录下建立一个名为“robots.txt”的文件,通过添加禁止搜索引擎收录的指令来控制搜索引擎抓取页面的行为。 2. HTML标签 在网页头部添加的标记,使其被搜索引擎识别为不允许被收录的页面。 3. 登录权限 通过设置网站登录权限,使未登录用户无法访问该网页,从而使搜索引擎无法抓取该页面内容。 4. 封锁I

Public @ 2023-06-26 06:50:17

玩转robots协议

2013年2月8日北京市第一中级人民法院正式受理了百度诉奇虎360违反“Robots协议”抓取、复制其网站内容的不正当竞争行为一案,索赔金额高达一亿元,这可以看做2012年下半年“3B大战”的继续。在此次索赔案件中,百度称自己的Robots文本中已设定不允许360爬虫进入,而360的爬虫依然对“百度知道”、“百度百科”等百度网站内容进行抓取。其实早在2012年11月初,针对双方摩擦加剧的情况,在中

Public @ 2019-05-13 16:09:21

更多您感兴趣的搜索

0.471141s