搜索引擎创建索引网页库的原理解析

搜索引擎网页采集完成之后，就是会对数据进行预处理，而这一章节：先讲数据预处理中的的搜索引擎索引网页库的的形成。

搜索引擎数据预处理，首先讲解数据预处理子系统的系统结构，继而介绍建立索引网页库的算法，接着介绍中文切词技术，然后讲解网页的分析，最后讲如何生成用于查询的网页倒排索引文件。

1、搜索引擎数据预处理系统结构

在经过搜索引擎Web数据采集之后，采集到的网页都是按照搜索引擎的格式进行存储，拥有良好的容错性，即使出现损坏的情况，也不会是的整个数据库中的信息都难以存取。但是这种存储格式是无法按照网页URL，来进行存取与其对应的网页的，所以，我们预处理第一步：

为原始网页建立索引，即索引网页库。建立索引网页库之后，就可以提供网页快照功能，通过对索引网页库中内容进行网页切词处理，将每一篇网页转化为一组关键词的集合，最后，将网页到所索引词的映射转化为索引词到网页的映射，形成倒排表，同时将网页中包含的不重复的索引词汇聚成索引词表

2、索引网页库的建立：

内容较为复杂，作为一个SEO，我们只需要了解原理部分就可以了，其中编程部分，我们暂时不讲解

2-1)在原始网页库，是有若干条记录组成，每一条记录包括了：头部信息,数据。每一条数据有网页头文件和网页内容组成。

2-2)索引网页库的算法通过MD5算法，将网页内容和URL摘要信息，分别记录为16个字节的唯一标识，同时为了方便查看，将这16个字节转化为23字节的ASCLL码。

2-3)网页索引文件，最终通过 ISAM来进行存储，保证数据的紧凑性和检索能力。同时在网页索引文件存储之后，还会存在URL索引文件，同时通过文档编号，将URL摘要信息和网页摘要信息联系起来。实现网页快照功能