您的当前位置:首页 >> 建站学院 >> 网站建设

优秀的搜索引擎爬虫都具有哪些特征

来源:无锡做网站  作者:35on  时间:2021-09-02 15:39:14

一,友好性

爬虫的友好性包含两方面的含义:一是保护网站的部分私密性,另外是减少被抓取网站的网络负载。

爬虫抓取的对象是各种类型的网站,对于网站拥有者来说,有些内容并不希望被所有人搜索到,所以需要设定协议,来告知爬虫哪些内容是不允许抓取的,目前有两种主流的方法可达此目的,爬虫禁抓协议和网页禁抓标记。

二,高性能

互联网的网页数量庞大如海,所以爬虫的性能至关重要。这里的性能主要是指爬虫下载网页的抓取速度,常见的评价方式是以爬虫每秒能够下载的网页数量作为性能指标,单位时间能够下载的网页数最越多,则爬虫的性能越高。

要提高爬虫的性能,在设计时程序访问磁盘的操作方法及其体实现时数据结构的选择很关键。比如对于待抓取URL队列和已抓取URL队列,因为URL数量非常大,不同实现方式性能表现迥异,所以高效的数据结构对于爬虫性能影响很大。

  三,可扩展性

如上所述,爬虫需要抓取的网页数最巨大,即使单个爬虫的性能很高,要将所有网页都下载到本地,仍然需要相当长的时间周期,为了能够尽可能缩短抓取周期,爬虫系统应该有很好的可扩展性,即很容易通过增加抓取服务器和爬虫数量来达到此目的。

目前实用的大型网络爬虫一定是分布式运行的,即多台服务器专做抓取,每台服务器部署多个爬虫,每个爬虫多线程运行,通过多种方式增加并发性。对于巨型的搜索引擎服务商来说,可能还要在全球范围、不同地域分别部署数据中心,爬虫也被分配到不同的数据中心,这样对于提高爬虫系统的整体性能是很有帮助的。

网站地图 Copyright©2017-2018 三五在线科技 版权所有 苏ICP备11076999号-2