针对apache、iis6、iis7独立ip主机屏蔽拦截蜘蛛抓取的方法如下：
1. 在网站根目录下新建一个robots.txt文件，添加以下代码：
User-agent: *
Disallow: /
这样可以禁止所有蜘蛛抓取你的网站。
2. 在服务器端安装mod_security模块并配置，可以使用以下命令：
sudo apt-get install libapache-mod-security
在apache配置文件中添加以下内容：
PC搜索完整UA：Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html）移动搜索完整UA：Mozilla/5.0 (Linux;u;Android 4.2.2;zh-cn;) AppleWebKit/534.46 (KHTML,like Gecko) Version/5.1 Mobile
在百度C2C产品“百度有啊”即将上线的时候，淘宝网站曾经屏蔽百度搜索爬虫，禁止百度搜索引擎抓取淘宝网站的网页内容，淘宝官方的解释是“杜绝不良商家欺诈”。在技术层面，淘宝屏蔽百度的方法是，在网站的robots.txt文件中加上如下内容：User-agent: BaiduspiderDisallow: /但实际上这种方法并不能完全屏蔽百度的爬虫，至今在百度上输入site:taobao.com还是可以看
搜索引擎蜘蛛劫持是seo黑帽中常用的一种手法,需要一定的技术支持getshell,然后上传恶意的代码到网站根目录下面或者修改网站的一些文件，搜索引擎蜘蛛劫持的原理就是判断来访网站的是用户还是蜘蛛,如果是蜘蛛就推送一个事先准备的恶意网站,如果是用户就推送一个正常的网页1：蜘蛛判断判断访问的是用户还是蜘蛛,如果是用户就推送一个正常网页,如果是蜘蛛就推送一个恶意网页，判断方式有两种,一种是判断蜘蛛的UA
一、服务器连接异常服务器连接异常会有两种情况，一种是站点不稳定，搜索引擎尝试连接您的网站的服务器时出现暂时无法连接的情况；另一种是搜索引擎一直无法连接上您网站的服务器。造成服务器连接异常的原因通常是您的网站服务器过大，超负荷运转。也有能是您的网站运行不正常，请检查网站的web服务器（如Apache、IIS）是否安装且正常运行，并使用浏览器检查主要页面能否正常访问。您的网站和主机还可能阻止了蜘蛛的访
