搜索引擎爬取的规律
发表日期:2019-12-14 浏览次数:次
搜索引擎的工作原理总共有四步:
第一步:爬行,搜索引擎是通过一种特定规律的软件跟踪网页的链接,从一个链接爬到另外一个链接,所以称为爬行。
第二步:抓取存储,搜索引擎是通过蜘蛛跟踪链接爬行到网页,并将爬行的数据存入原始页面数据库。
第三步:预处理,搜索引擎将蜘蛛抓取回来的页面,进行各种步骤的预处理。
第四步:排名,用户在搜索框输入关键词后,排名程序调用索引库数据,计算排名显示给用户,排名过程与用户直接互动的。
网页爬行规则:
2、普通网站,分配一定的蜘蛛爬行资源,爬到一定量就不爬行了;
3、遵循F型爬行规则,从左到右,从商到下的原则爬行。
1、首先说域名,除了简单易纪,使用常用后缀外,域名要选择和网站主题相关。如果网站内容与域名相符,会在搜索引擎的排名中有好的表现。如果有多个域名,要选用一个主域名,其他域名301重定向到主域名。
空间一定要稳定,速度越快,单位时间内蜘蛛爬的越多,越有利于排名。如果您的网站经常打不开,影响用户的体验,也会影响Spider抓取你的网站,如果经常发生,用户的体验降低,Spider也不会来了。会影响您网站的收录,更不用说排名。
2、树型扁平结构
层级分明的树状扁平结构是较理想的网站部署结构,每个页面与其父子页面有链接关联,可以帮助用户快速定位到感兴趣的频道、正文,也有利于搜索引擎理解网站结构层次和更好的爬取内容。在url设置上, 目录层级不要太深,尽量在4层以内
3、文章标题
文章标题中要准确包含文章概要,并且包含文章的主关键词。这个主关键词就是你希望在搜索引擎中排名的关键词。标题是极重要的内容。大幅修改,可能会带来大幅波动。所以请慎重对待网页标题。如无必要,尽量不做大幅修改。
4、文章内容
文章内容要丰富,最好是原创内容。另外搜索引擎不能识别flash、frame、ajax,所以文章内容要中,要尽量少使用。如果一定要使用,可以建立文字版的索引页。文章正文标题要使用标签,文章配图要加alt标签。