Categories


Tags


未建好页面应返回503状态码,防止被删除

近期,百度站长平台发现有一些网站把未建好的页面放到线上,并且这些页面在被百度抓取的时候返回码是404,于是页面被百度抓取后,会被当成死链直接删除。但是这个页面在第二天或者过几天就会建好,并上线到网站内展现出来,但是由于之前已经被百度当做死链删除,所以要再次等这些链接被发现,然后抓取,才能展现,这样的操作最终会导致一些页面在一段时间内不会在百度出现。

比如某个大型门户网站爆出大量新闻时效性很强的专题未被百度及时收录的问题,经检查验证后发现就是因为页面未建成就放置在线上,并返回404状态码,被百度当成死链删除,造成收录和流量损失。

对于这样的问题,百度官方建议网站合理使用返回码,即使用503返回码,这样百度的抓取器接到503返回码后,会在隔一段时间再去访问这个地址,在您的页面建好上线后,就又能被重新抓取,保证页面及时被抓取和索引,避免未建好的内容设为404后带来不必要的收录和流量损失。

以下详细介绍几种百度支持的常用返回码:

1、404:404返回码的含义是“NOT FOUND”,百度会认为网页已经失效,那么通常会从搜索结果中删除,并且短期内spider再次发现这条url也不会抓取。

2、301:301返回码的含义是“Moved Permanently”,百度会认为网页当前跳转至新url。当遇到站点迁移,域名更换、站点改版的情况时,推荐使用301返回码,尽量减少改版带来的流量损失。虽然百度spider现在对301跳转的响应周期较长,但我们还是推荐大家这么做。

网站改版详细介绍请查看:/wiki/103 。

3、503:503返回码的含义是“Service Unavailable”,百度会认为该网页临时不可访问,通常网站临时关闭,带宽有限等会产生这种情况。对于网页返回503,百度spider不会把这条url直接删除,短期内会再访问。届时如果网页已恢复,则正常抓取;如果继续返回503,短期内还会反复访问几次。但是如果网页长期返回503,那么这个url仍会被百度认为是失效链接,从搜索结果中删除。

百度站长平台的建议和总结:

1、如果百度spider对您的站点抓取压力过大,请尽量不要使用404,同样建议返回503。这样百度spider会过段时间再来尝试抓取这个链接,如果那个时间站点空闲,那它就会被成功抓取了

2、如果站点临时关闭或者页面暂未建好上线,当网页不能打开时以及没有建好时,不要立即返回404,建议使用503状态。503可以告知百度spider该页面临时不可访问,请过段时间再重试。

如果大家对未建好的页面防止被删除的方法还有别的疑问,大家可以到[学堂同学汇][学习讨论] 《 未建好页面应返回503状态码,防止被删除》讨论帖中发表自己的看法,我们的工作人员会关注这里并与大家进行探讨。

来源:百度搜索资源平台 百度搜索学堂


Public @ 2015-09-15 15:35:42

百度指数如何防范各种作弊的行为?发现作弊嫌疑,如何处理?

百度指数采取一系列防范作弊行为的措施,包括: 1. 监控异常行为:百度指数会监控用户搜索和访问数据的异常行为,包括搜索和访问频率、来源、关键词等,一旦发现异常行为,会进行检查和处理。 2. 人工审核:百度指数会对疑似作弊用户进行人工审核,包括审核搜索和访问数据的真实性、来源、合法性等。 3. 技术措施:采取技术手段,如IP封禁、反爬虫等,防范作弊行为。 如果发现作弊嫌疑,百度指数会采取以下

Public @ 2023-06-02 02:50:19

我想从搜索结果中彻底删除某个网页

为确保永久删除您的内容,请进行以下某项操作。如果您没有进行相应操作,那么您的网站稍后可能会重新显示在搜索结果中。A.如果网页已不存在,请确保服务器返回 404(未找到)或 410(不存在)。这样可让搜狗知道该网页已不存在,无需再在搜索结果中显示。B.如果网页仍存在,但您不想让其显示在搜索结果中,请使用 robots.txt 阻止 sogou spider 进行抓取。请注意,在通常情况下,即使您已通

Public @ 2010-05-25 15:35:25

HTTP状态码有什么用,和SEO有什么关系?

HTTP状态码是由Web服务器在响应客户端请求时返回的状态标识。它们用于表示服务器处理请求的结果,并提供了关于请求状态的信息。 HTTP状态码对于SEO(搜索引擎优化)很重要,原因如下: 1. 200状态码:表示成功返回请求。对于搜索引擎爬虫来说,收到200状态码意味着页面能够正常访问,这能够对网站的排名产生积极的影响。 2. 301和302状态码:301状态码表示永久重定向,即已移动的内容

Public @ 2023-07-21 13:50:35

HTTP状况码

当效劳器收到某项恳求时,例如,用户经过阅览器拜访你的网页,效劳器会向这个阅览器回来一个代码以呼应恳求,一个代码就称为:HTTP状况码,相同道理,当查找引擎的Robot(机器人)或Crawler(匍匐器)抓取你的网页时,效劳器也会回来HTTP状况码相应恳求。  此HTTP状况码供给关于恳求状况的信息,通知拜访的阅览器、查找引擎机器人:baiduspider、Googlebot等关于你的网站和恳求的网

Public @ 2020-11-13 15:35:45

更多您感兴趣的搜索

0.543236s