免费观看又色又爽又黄的小说免费_美女福利视频国产片_亚洲欧美精品_美国一级大黄大色毛片

搜索引擎抓取的邏輯

2013-10-26    分類: 網站建設

  做網站SEO優化,網頁內容要想被搜索引擎收錄,這個過程就需要通過搜索引擎蜘蛛來爬取來實現,你的內容首先要被搜索引擎發現,才能夠判斷質量是否優質達到收錄要求。

搜索引擎抓取的邏輯

  什么是搜索引擎蜘蛛抓取份額?

  顧名思義,抓取份額是搜索引擎蜘蛛花在一個網站上的抓取頁面的總的時間上限。對于特定網站,搜索引擎蜘蛛花在這個網站上的總時間是相對固定的,不會無限制地抓取網站所有頁面。

  抓取份額的英文Google用的是crawl budget,直譯是爬行預算,我覺得不太能說明是什么意思,所以用抓取份額表達這個概念。

  抓取份額是由什么決定的呢?這牽扯到抓取需求和抓取速度限制。

  抓取需求:

  抓取需求,crawl demand,指的是搜索引擎“想”抓取特定網站多少頁面。

  決定抓取需求的主要有兩個因素。一是頁面權重,網站上有多少頁面達到了基本頁面權重,搜索引擎就想抓取多少頁面。二是索引庫里頁面是否太久沒更新了。說到底還是頁面權重,權重高的頁面就不會太久不更新。

  頁面權重和網站權重又是息息相關的,提高網站權重,就能使搜索引擎愿意多抓取頁面。

  抓取速度限制:

  搜索引擎蜘蛛不會為了抓取更多頁面,把人家網站服務器拖垮,所以對某個網站都會設定一個抓取速度的上限,crawl rate limit,也就是服務器能承受的上限,在這個速度限制內,蜘蛛抓取不會拖慢服務器、影響用戶訪問。

  服務器反應速度夠快,這個速度限制就上調一點,抓取加快,服務器反應速度下降,速度限制跟著下降,抓取減慢,甚至停止抓取。

  所以,抓取速度限制是搜索引擎“能”抓取的頁面數。

  那么,抓取份額是由什么決定的?

  抓取份額是考慮抓取需求和抓取速度限制兩者之后的結果,也就是搜索引擎“想”抓,同時又“能”抓的頁面數。

  網站權重高,頁面內容質量高,頁面夠多,服務器速度夠快,抓取份額就大。

  小網站沒必要擔心抓取份額

  小網站頁面數少,即使網站權重再低,服務器再慢,每天搜索引擎蜘蛛抓取的再少,通常至少也能抓個幾百頁,十幾天怎么也全站抓取一遍了,所以幾千個頁面的網站根本不用擔心抓取份額的事。數萬個頁面的網站一般也不是什么大事。每天幾百個訪問要是能拖慢服務器,SEO就不是主要需要考慮的事了。

  大中型網站可能需要考慮抓取份額

  幾十萬頁以上的大中型網站,可能要考慮抓取份額夠不夠的問題。

  抓取份額不夠,比如網站有1千萬頁面,搜索引擎每天只能抓幾萬個頁面,那么把網站抓一遍可能需要幾個月,甚至一年,也可能意味著一些重要頁面沒辦法被抓取,所以也就沒排名,或者重要頁面不能及時被更新。

  要想網站頁面被及時、充分抓取,首先要保證服務器夠快,頁面夠小。如果網站有海量高質量數據,抓取份額將受限于抓取速度,提高頁面速度直接提高抓取速度限制,因而提高抓取份額。

  SEO優化人員可以通過設置robots文件來禁止不允許抓取的地方,節省抓取份額。

網頁名稱:搜索引擎抓取的邏輯
文章分享:http://m.newbst.com/news/4087.html

成都網站建設公司_創新互聯,為您提供企業網站制作企業建站手機網站建設小程序開發建站公司全網營銷推廣

廣告

聲明:本網站發布的內容(圖片、視頻和文字)以用戶投稿、用戶轉載內容為主,如果涉及侵權請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網站立場,如需處理請聯系客服。電話:028-86922220;郵箱:631063699@qq.com。內容未經允許不得轉載,或轉載時需注明來源: 創新互聯

商城網站建設