2013-12-06 分類: 網(wǎng)站建設(shè)
在上文中小編為大家講解了網(wǎng)站優(yōu)化教程中搜索引擎蜘蛛的分類,下面,悅哥網(wǎng)站優(yōu)化小編為大家介紹搜索引擎蜘蛛的抓取方式。
對于搜索引擎來說,要抓取互聯(lián)網(wǎng)上所有的網(wǎng)頁幾乎是不可能的。從目前公布的數(shù)據(jù)來看,容量大的搜索引擎也不過抓取了整個互聯(lián)網(wǎng)網(wǎng)頁數(shù)量的40%左右。其中的原因,一方面是抓取技術(shù)的瓶頸,無法遍歷所有的網(wǎng)頁,許多網(wǎng)頁無法從其他網(wǎng)頁的鏈接中找到;另一方面是存儲技術(shù)和處理技術(shù)的問題。如果按照每個頁面20KB計算(包含圖片),100億個網(wǎng)頁的容量是100×2000GB。即使能夠存儲,下載也存在問題(按照一臺機(jī)器每秒下載20KB計算,需要240臺機(jī)器不停地下載一年,才能把所有網(wǎng)頁下載完畢)。
同時,由于數(shù)據(jù)量太大,在提供搜索時也會有效率方面的影響。因此,許多搜索引擎的蜘蛛程序只抓取那些重要的網(wǎng)頁,而在抓取時主要依據(jù)某個網(wǎng)頁的鏈接深度來評價其重要性。
在抓取闕頁的時候,搜索引擎蜘蛛一般有兩種策略,分別是廣度優(yōu)先和深度優(yōu)先,如圖1所示。廣度優(yōu)先是指搜索引擎蜘蛛會先抓取起始網(wǎng)頁中鏈接的所有網(wǎng)頁,然后選擇其中的一個鏈接網(wǎng)頁,繼續(xù)抓取在此網(wǎng)頁中鏈接的所有網(wǎng)頁。這是最常用的方法,因?yàn)檫@個方法可以讓搜索引擎蜘蛛并行處理,以提高其抓取速度。深度優(yōu)先是指搜索引擎蜘蛛會從起始頁開始,一個鏈接一個鏈接跟蹤下去,處理完條線路之后再轉(zhuǎn)入下一個起始頁,繼續(xù)跟蹤鏈接。這個方法有個優(yōu)點(diǎn)是搜索引擎蜘蛛的設(shè)計比較簡單。
由于不可能抓取所有的網(wǎng)頁,所以有些搜索引擎蜘蛛對一些不太重要的網(wǎng)站設(shè)置了訪問的層數(shù)。如圖1所示,A為起始網(wǎng)頁,屬于第0層,B、C、D、E、F屬于第1層,G、H屬于第2層,I屬于第3層。如果搜索引擎蜘蛛設(shè)置的訪問層數(shù)為2,網(wǎng)頁I將不會被訪問。這也導(dǎo)致有些網(wǎng)站的一部分網(wǎng)頁能夠在搜索引擎上搜索到,而另外一部分無法搜索到。對于網(wǎng)站設(shè)計者來說,扁平化的網(wǎng)站結(jié)構(gòu)設(shè)計有助于搜索引擎抓取其更多的網(wǎng)頁。
搜索引擎蜘蛛在訪問網(wǎng)站網(wǎng)頁的時候,經(jīng)常會遇到加密數(shù)據(jù)和網(wǎng)頁權(quán)限的問題,有些網(wǎng)頁是需要會員權(quán)限才能訪問的。當(dāng)然,網(wǎng)站的所有者可以通過協(xié)議讓搜索引擎蜘蛛不去抓取,但對于一些出售報告的網(wǎng)站,它們希望搜索引擎能搜索到它們的報告,但又不想讓搜索者完全免費(fèi)地查看,這樣就需要給搜索引擎蜘蛛提供相應(yīng)的用戶名和密碼。搜索引擎蜘蛛可以通過所給的權(quán)限對這些網(wǎng)頁進(jìn)行抓取,從而提供搜索。而當(dāng)搜索者查看該網(wǎng)頁的時候,同樣需要進(jìn)行相應(yīng)的權(quán)限驗(yàn)證。
以上就是本次小編為大家分享的關(guān)于網(wǎng)站優(yōu)化教程中搜索引擎蜘蛛的抓取方式的內(nèi)容,本文主要內(nèi)容來源于網(wǎng)絡(luò),由小編整理發(fā)布,如有侵權(quán)請聯(lián)系本網(wǎng)站,謝謝!
新聞標(biāo)題:網(wǎng)站優(yōu)化中搜索引擎蜘蛛的抓取方式
URL網(wǎng)址:http://m.newbst.com/news/4817.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供云服務(wù)器、搜索引擎優(yōu)化、外貿(mào)建站、外貿(mào)網(wǎng)站建設(shè)、微信小程序、App開發(fā)
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容