Categories

Tags

百度搜索robots协议全新升级公告

尊敬的用户： 为了更好地保护网站主的合法权益、提升百度搜索用户搜索体验，百度搜索于2020年10月27日发布了新版robots协议，主要特性包括： 1. 支持抓取控制与数据保护视角的并存 新增规定了两个特殊的抓取指令： allow-if-previously-blocked 和 noindex-if-previously-indexed，用于方便网站主在控制抓取行为的同时，保护网站内容的安全性。 2. 明细化规范 为了更好地支持抓取控制与数据保护视角的并存，新版robots协议增加了大量规定，对协议的细节进行了明细化，以便网站主使用。 3. 融入网站主实际生活 新版robots协议进一步增强了其实用性。协议中包括了比较常用的content-disposition和content-language指令，并对User-agent指令在临时禁止搜索方面的规定进行了补充。 4. 增加特殊对待百度机器人的规定 针对百度搜索所使用的机器人，新版robots协议增加了特殊规定，为百度机器人提供更好的抓取引导，以提高搜索结果的质量。 本次robots协议的升级，将为广大网站主提供更加丰富的抓取控制功能和更好的搜索体验，我们诚恳地邀请各位网站主按照新版规范，完善自身站点的robots协议文件。 祝愿您的网站越来越优秀！ 百度搜索运营团队 2020年11月4日

 Public @ 2023-06-20 23:50:22

网站设置301重定向怎么操作？301设置需要注意的事项

1. 打开网站的.htaccess文件，添加以下代码： ``` Redirect 301 /old-page.html http://www.yourwebsite.com/new-page.html ``` 2. 在301重定向前，确保新页面已经正常运行，并且地址没有变更。 3. 如果有多个旧页面需要重定向，可以逐个添加301重定向代码。 4. 重定向的目标地址必须是正确的URL

 Public @ 2023-04-14 19:50:20

产生复制内容的原因

下面这几个问题可能造成复制内容。1.代理商和零售商从产品生产商那里转载产品信息。2.网页内容由RSS生成。3.转载及抄袭。4.镜像网站。5.URL任意加字符还是返回200状态码。6.打印版本。7.产品或服务类型之间的区别比较小。8.使用Session ID。9.网站结构造成的各种页面版本。10.网页实质内容太少。来源：搜外网

 Public @ 2022-01-21 15:18:31

巧用Robots避免蜘蛛黑洞

对于百度搜索引擎来说，蜘蛛黑洞特指网站通过极低的成本制造出大量参数过多，及内容雷同但具体参数不同的动态URL ，就像一个无限循环的“黑洞”将spider困住，Baiduspider浪费了大量资源抓取的却是无效网页。比如很多网站都有筛选功能，通过筛选功能产生的网页经常会被搜索引擎大量抓取，而这其中很大一部分检索价值不高，如“500-1000之间价格的租房”，首先网站（包括现实中）上基本没有相关资源，

 Public @ 2020-05-11 16:08:55

Robots.txt 文件应放在哪里？

obots.txt 文件必须放在网站的根目录。放在子目录的 Robots.txt 文件搜索引擎不能爬取到，所以不会起任何作用。如：https://www.seowhy.com/robots.txt    是有效的。https://www.seowhy.com/a/robots.txt  是无效的。以下3种情况需要注意：1、如果手机网站采用的是m.的二级域名，要给手机网

 Public @ 2018-08-20 16:09:23

更多您感兴趣的搜索

0.444612s