免费咨询(09:00 - 18:00)
010-57030126  在线客服点击咨询
 
当前位置
搜索引擎蜘蛛的工作过程
发布时间: | 2016-03-14

小编为大家介绍下,搜索器在工作过程中主要需考虑以下几个问题:


(1)Web页面的更新频率

当网页被下载后,搜索器应以一定的频率对全部网页进行刷新或对网页重新访问,其频率应与网页自身更新的频率相适应,但不是成正比。

(2)Web信息的选择

在大多数情况下,搜索器不可能搜集所有Web信息,只能选择下载其中一部分。这样,如何下载比较“重要”的Web信息就是一个很现实的问题。判断一个网页是否重要的依据主要有兴趣驱动、流行性驱动和位置驱动三个指标。

(3)减少搜索器对Web服务器的负担

当很多搜索器在工作时,将大大消耗服务器资源,对Web服务器而言是一个不小的负担,如何减少服务器负担和避免阻塞也是设计搜索器应该考虑的问题。例如,有的搜索引擎与网站达成协议,只有在网站服务器端放置特殊标记文件,搜索器才采集,有的网站服务器按照搜索器的要求建立索引文件,搜索器只采集这个索引文件即可。

(4)并行工作

由于网页数量庞大,许多搜索器在多台机器上工作,并行下载网页,从而使得在最短的时间内下载更多的网页,而这些并行工作的搜索器必须协同工作,以便使得不同搜索器不会重复访问。并行工作处理的好坏,将直接影响搜索器的效率。

目前的搜索引擎蜘蛛已经不在是以前的发现一张网页,并收录。现在网页的收录,将比以往更加严格。以前搜索引擎蜘蛛面临的问题是大部分站点的网页不太友好,不利于搜索引擎的蜘蛛爬取。而现在的问题,网页的路径很友好,但是搜索引擎蜘蛛需要分辨其价值,从而再决定要不要收录。也正是这个原因,让很多内容主要是靠采集但是网站结构很有利于搜索引擎蜘蛛爬行的网站,并没有得到搜索引擎大量收录的原因。

通过网站结构、外部链接等因素来促进搜索引擎的收录,依然是主要的方法之一。但是相比较而言,现在搜索引擎已经不那么依赖这两者的作用了。所以对SEO来说,难度已经明显增加。

 
  免费咨询(09:00 - 18:00)   关注我们   公司新闻
  010-57030126
在线客服点击咨询
         ▪ 网页设计师需要与客户建立
▪ 外贸新手:T/T虽好,可
▪ 预判2016年中国外贸形
▪ 美联储加息 新兴市场国家
 
首页 | 网站优化 | 网络营销 | 网站建设 | 网站帮助 | 关于思亿欧 | 联系我们
咨询热线:010-57030126
地址:北京市朝阳区广顺北大街博泰国际大厦A座602室
石家庄分公司地址:石家庄市长安区广安大街6号铂金公馆1012室
电话:010-57030126
国家高新技术企业 双软企业 中关村高新技术企业 海淀区创新企业 ISO9001:2008质量管理体系认证 中国电子商务行业信息化最具影响力企业
中国电子商务行业最佳外包服务奖 中国网上零售优秀服务商50强 中国中小企业最佳电子商务服务商 支付宝合作伙伴 万网核心合作伙伴 阿里云核心合作伙伴