Categories

Tags

玩转robots协议

2013年2月8日北京市第一中级人民法院正式受理了百度诉奇虎360违反“Robots协议”抓取、复制其网站内容的不正当竞争行为一案，索赔金额高达一亿元，这可以看做2012年下半年“3B大战”的继续。在此次索赔案件中，百度称自己的Robots文本中已设定不允许360爬虫进入，而360的爬虫依然对“百度知道”、“百度百科”等百度网站内容进行抓取。其实早在2012年11月初，针对双方摩擦加剧的情况，在中

 Public @ 2019-05-13 16:09:21

robots使用误区

1. 不需要在每个页面都添加robots.txt文件：robots.txt文件只是一份给搜索引擎看的指令，如果不希望搜索引擎从该页面抓取数据，那么每一页都是可以不用添加robots.txt文件的。 2. 不能用于移动设备：robots.txt文件可用于搜索引擎爬虫，但也可以在部分机型的移动设备上进行yu处理，可以用于控制移动设备的蜘蛛爬行进行内容抓取。 3. 不应该将robots保存到公用

 Public @ 2023-03-03 14:00:19

通过Canonical标签解决重复内容收录

Canonical标签是指在网页的HTML代码中添加一个链接指向该页面的主要版本，当页面有多个URL时，通过Canonical标签告诉搜索引擎哪个是主要版本，从而避免重复内容被收录。 例如，在网站中有一篇文章，URL分别是： http://www.example.com/article http://www.example.com/articles/123 http://www.examp

 Public @ 2023-06-05 19:00:10

如何设置canonical标签

要设置canonical标签，您需要在网页的标签中添加以下代码： ``` ``` 将“http://example.com/yourpage.html”替换为您要设置为标准URL的页面的URL。 您可以通过以下几个步骤检查您的canonical标签是否正确设置： 1. 打开您要检查的网页。 2. 按下键盘上的Ctrl + U，以查看页面源代码。 3. 在源代码中搜索“canonical”

 Public @ 2023-04-11 05:50:13

更多您感兴趣的搜索

0.576826s