第一步：爬行，搜索引擎是通过一种特定规律的软件跟踪网页的链接，从一个链接爬到另外一个链接，所以称为爬行。
第二步：抓取存储，搜索引擎是通过蜘蛛跟踪链接爬行到网页，并将爬行的数据存入原始页面数据库。
第三步：预处理，搜索引擎将蜘蛛抓取回来的页面，进行各种步骤的预处理。
第四步：排名，用户在搜索框输入关键词后，排名程序调用索引库数据，计算排名显示给用户，排名过程与用户直接互动的。
网页爬行规则:
1、质优的网站专门分配蜘蛛爬行，及时爬行，及时收录，及时放出供网民搜索;
2、普通网站，分配一定的蜘蛛爬行资源，爬到一定量就不爬行了;
3、遵循F型爬行规则，从左到右，从上到下的原则爬行。
二、提高搜索引擎蜘蛛爬取的技巧：
1、首先说域名，除了简单易纪，使用常用后缀外，域名要选择和网站主题相关。如果网站内容与域名相符，会在搜索引擎的排名中有好的表现。如果有多个域名，要选用一个主域名，其他域名301重定向到主域名。
2、空间一定要稳定，速度越快，单位时间内蜘蛛爬的越多，越有利于排名。如果您的网站经常打不开，影响用户的体验，也会影响蜘蛛抓取你的网站，如果经常发生，用户的体验降低，蜘蛛也不会来了。会影响您网站的收录，更不用说排名。
3、树型扁平结构
层级分明的树状扁平结构是较理想的网站部署结构，每个页面与其父子页面有链接关联，可以帮助用户快速定位到感兴趣的频道、正文，也有利于搜索引擎理解网站结构层次和更好的爬取内容。在url设置上, 目录层级不要太深，尽量在4层以内
4、文章标题
文章标题中要准确包含文章概要，并且包含文章的主关键词。这个主关键词就是你希望在搜索引擎中排名的关键词。标题是极重要的内容。大幅度的修改，可能会带来大幅波动。所以请慎重对待网页标题。如无必要，尽量不做大幅度的修改。