搜索引擎是一种用来搜索巨大的获取到的信息的技术，它根据用户输入的关键字或问题，再搜索索引库中获取到的信息，以便提供相关网站页面、新闻文档、图片和其他形式的信息来回答用户提出的问题。 搜索引擎的一般工作原理是，将信息经过索引化存在索引库中，用户通过输入一定的关键字搜索时，搜索引擎从索引库中搜索符合条件的结果项并返回；或者通过抓取网页技术在搜索引擎开发过程中，根据搜索引擎的网络爬虫技术逐一抓取网页，添加到自己的索引库中，当用户搜索索引库中有的结果时搜索引擎就会进行排序，返回符合条件的搜索结果。
一位读者在蜘蛛抓取配额是什么这篇帖子留言：不对呀，这个index标签，是指告诉蜘蛛可以抓取该页面，那么noindex不就是不允许抓取该页面吗？！那么为什么文章最后的几个说明里有“noindex标签不能节省抓取份额。搜索引擎要知道页面上有noindex标签，就得先抓取这个页面，所以并不节省抓取份额。”留言说明，这位读者并没有太明白什么是抓取，什么是索引，index和noindex标签的意义又是什么。
编者按：之前与大家分享了关于搜索引擎抓取系统中有关抓取系统基本框架、抓取中涉及的网络协议、抓取的基本过程的内容，今天将于大家分享搜索引擎抓取系统第二部分内容—spider抓取过程中的策略。spider在抓取过程中面对着复杂的网络环境，为了使系统可以抓取到尽可能多的有价值资源并保持系统及实际环境中页面的一致性同时不给网站体验造成压力，会设计多种复杂的抓取策略。以下简单介绍一下抓取过程中涉及到的主要策
搜索引擎的工作原理基本上包括以下几个步骤： 1. 网络爬虫：搜索引擎首先会派出网络爬虫（也称为蜘蛛或机器人），自动访问互联网上的页面，并把这些页面的内容和相关信息收集下来。 2. 索引：搜索引擎将爬取到的页面内容和相关信息存储到搜索引擎数据库中，以方便后续搜索。 3. 检索：当用户输入关键词进行搜索时，搜索引擎会根据关键词从数据库中检索相关的页面。 4. 排名：搜索引擎会根据一系列算法评估
相关统计数据表明：互联网上近似重复的网页的数量占网页总数量的比例高达29%，完全相同的网页大约占网页总数量的22%.研究表明，在一个大型的信息采集系统中，30%的网页是和另外70%的网页完全重复或近似重复的。即：互联网的网页中相当高的比例的网页内容是近似相同或完全相同的!搜索爬虫抓取会产生网页重复的类型：1.多个URL地址指向同一网页以及镜像站点如：www.sina.com 和www.sina.c
