8月份百度Spider升级了对HTTPS数据的抓取力度，HTTPS数据将更快被Spider抓取到。如网站还在做HTTPS的改造，且网站数据未搭建好，建议网站采取以下措施，避免Spider抓取，以免造成网站流量损失
1、把HTTPS的协议封掉，可把443端口关掉；
2、做HTTPS到http的301；
3、建议站点在改HTTPS没改造好之前，不要提供超链接指向，以免被Spider抓到HTTPS。
4、针对一个服务器下有多个域名的情况，建议未做HTTPS的网站，设置HTTPS抓取返回失败码，或将HTTPS站点301/302到HTTP，避免抓取出现问题。
来源：百度搜索资源平台
BaiDuSpider百度蜘蛛是百度搜索引擎的爬虫程序，负责抓取并建立Web页面的索引。百度蜘蛛会消耗服务器的流量和资源，对于一些限制流量的网站，可能会受到影响。为了控制百度蜘蛛的访问，可以使用robots.txt文件进行设置。 robots.txt文件是一种网站协议，用来告诉搜索引擎蜘蛛访问网站的规则。如果在网站根目录下没有设置robots.txt文件，搜索引擎蜘蛛将按照默认规则进行访问。为了
作为一款搜索引擎，sogou spider通常不会封锁任何网站。它的任务是遍历互联网并收集网站信息，然后将其添加到sogou搜索结果中。然而，如果一个网站包含有害的内容或违反了法律法规，sogou和其他搜索引擎可能会将其从搜索结果中删除，但这不属于sogou spider的工作范畴。
百度spider，也叫"百度蜘蛛"，是百度用于抓取网络上的网页内容的爬虫程序。它会自动搜索网络上的网页，抓取页面上的关键词和摘要，并将它们保存在百度的数据库中。百度的蜘蛛不仅可以抓取网页上的文本信息，还可以抓取网页上的图像和多媒体文件，以及网站上的链接。百度蜘蛛可以在短时间内快速地抓取大量信息，因此十分实用。它也可以抓取动态网页内容，对网络内容进行检索更新，从而搜集到最新最准确的检索结果。
Baiduspider的user-agent是： Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)
