搜索引擎蜘蛛可以简单的理解为页面信息采集工具，不需要人工去采集，它会自动根据URL链接一个一个爬行过去，然后再抓取页面的信息，然后再存到服务器的列队中，为用户提供目标主题所需要的数据资源，搜索引擎蜘蛛不是所有的页面都会抓取的，主要有三个原因：一是技术上的原因。二是服务器存储方面的原因。三是提供用户搜索数据量太大，会影响效率。
所以说，搜索引擎蜘蛛一般只是抓取那些重要的网页，而在抓取的时候评价重要性主要的依据是某个网页的链接深度。我们在做网站的时候可以多做一些链接，然后让搜索引擎可以顺着各个链接爬行到你的网站，对你的网站页面进行信息采集。
来源：A5营销
在您的网站的问题改正之后，点此提交申请解封
百度各个产品使用不同的user-agent：产品名称对应user-agent网页搜索Baiduspider无线搜索Baiduspider图片搜索Baiduspider-image视频搜索Baiduspider-video新闻搜索Baiduspider-news百度搜藏Baiduspider-favo百度联盟Baiduspider-cpro商务搜索Baiduspider-ads来源：百度搜索资源平台
1. 网站结构复杂和不合理：网站结构过于复杂或不合理会阻碍搜索引擎蜘蛛的爬行，导致关键页面无法被索引。 2. 缺乏关键词和优化：如果网站没有优化，或关键词使用不当或缺乏，搜索引擎无法判断网站内容的重要性，从而无法正确推荐网站给用户。 3. 网页载入时间过长：搜索引擎会优先考虑快速载入的网站。如果网站速度慢，搜索引擎会认为网站不够优秀，会影响网站的排名。 4. robots.txt 文件限制：
一般用在网站被挂马以后，直接访问没有问题，可以通过模拟百度或其他搜索引擎来访问，即可发现问题。比如下面的例子，直接访问没问题，使用模拟搜索引擎访问即可发现问题。比如访问一个针对搜索引擎挂马的网页：http://www.zttoten.com/index.php?rmlbgh=cbfmcm&westauditpageinfo=1 [这个地址可能会会失效]，这样就可以看到被挂马的情况。（默认情
