针对apache、iis6、iis7独立ip主机屏蔽拦截蜘蛛抓取的方法如下：
1. 在网站根目录下新建一个robots.txt文件，添加以下代码：
User-agent: *
Disallow: /
这样可以禁止所有蜘蛛抓取你的网站。
2. 在服务器端安装mod_security模块并配置，可以使用以下命令：
sudo apt-get install libapache-mod-security
在apache配置文件中添加以下内容：
Baiduspider是百度搜索引擎的一个自动程序，它的作用是访问互联网上的网页，建立索引数据库，使用户能在百度搜索引擎中搜索到您网站上的网页。
步骤一：查看User-Agent字段，百度蜘蛛的User-Agent为：Baiduspider 步骤二：查看IP来源，如果IP来源为baidu.com，则为百度蜘蛛。
不要看所谓的IP段，IP也不是一沉不变的，过去开头有220.181的 大家都知道，但是后面百度方面在不同的城市都建立了更多的服务器，总要有IP的增加，而IP段不可能一直是固定的那几个。所以单纯的以IP段来看，是非常不严谨的。那么如何查看呢？可以使用cmd命令： nslookup IP地址 的方式来进行查看，如果返回的信息中，有百度子域名，那么说明是百度的IP，如果无法返回，或者返回了诸
一、服务器连接异常服务器连接异常会有两种情况，一种是站点不稳定，搜索引擎尝试连接您的网站的服务器时出现暂时无法连接的情况；另一种是搜索引擎一直无法连接上您网站的服务器。造成服务器连接异常的原因通常是您的网站服务器过大，超负荷运转。也有能是您的网站运行不正常，请检查网站的web服务器（如Apache、IIS）是否安装且正常运行，并使用浏览器检查主要页面能否正常访问。您的网站和主机还可能阻止了蜘蛛的访
