搜索引擎是通过比较网页URL，内容和相关属性来删除重复网页的，具体步骤如下： 1. 搜索引擎收集器(Crawler)会在网络上发现新网页并收集，此时会有一定概率发现相同的网页，并添加到收集器的索引中去。 2. 收集器会识别新的网页，把重复的网页排除。 3. 然后，搜索引擎把新索引serves给布置在 Indexer(索引器)中，执行深入索引，会把相同内容的文章及URL排除，仅保留一条记录。 4. 最后，Indexer根据收集器搜集来的URL和文章，再次把重复的网页排除，仅保留一条记录。
一月份时，Google新的SEO代言人Gary Illyes在Google官方博客上发了一篇帖子：What Crawl Budget Means for Googlebot，讨论了搜索引擎蜘蛛抓取份额相关问题。对大中型网站来说，这是个颇为重要的SEO问题，有时候会成为网站自然流量的瓶颈。今天的帖子总结一下Gary Illyes帖子里的以及后续跟进的很多博客、论坛帖子的主要内容，以及我自己的一些案例
信息的飞速增长，使搜索引擎成为人们查找信息的首选工具，Google、百度、中国搜索等大型搜索引擎一直是人们讨论的话题。随着搜索市场价值的不断增加，越来越多的公司开发出自己的搜索引擎，阿里巴巴的商机搜索、8848的购物搜索等也陆续面世，自然，搜索引擎技术也成为技术人员关注的热点。搜索引擎技术的研究，国外比中国要早近十年，从最早的Archie，到后来的Excite，以及altvista、overtur
搜索引擎检索系统是一种利用计算机程序和算法为用户提供信息检索服务的系统。其作用是在海量的信息中快速准确地找到用户需要的信息并返回给用户。 搜索引擎检索系统包括以下几个基本部分： 1. 爬虫：负责收集互联网上的网页等信息，并将其保存到搜索引擎的数据库中。 2. 索引器：通过对网页内容进行分析和加工处理，建立一张包含关键词和网页链接的索引表，以便搜索引擎能够快速地响应用户的检索请求。 3. 检
前面简要介绍过了搜索引擎的索引系统，实际上在建立倒排索引的最后还需要有一个入库写库的过程，而为了提高效率这个过程还需要将全部term以及偏移量保存在文件头部，并且对数据进行压缩，这涉及到的过于技术化在此就不多提了。今天简要给大家介绍一下索引之后的检索系统。检索系统主要包含了五个部分，如下图所示：索引&检索.jpg（1）Query串切词分词即将用户的查询词进行分词，对之后的查询做准备，以“1
