搜索引擎蜘蛛抓取配額是什么？

一月份時，Google新的SEO代言人Gary Illyes在Google官方博客上發了一篇帖子：What Crawl Budget Means for Googlebot，討論了搜索引擎蜘蛛抓取份額相關問題。對大中型網站來說，這是個頗為重要的SEO問題，有時候會成為網站自然流量的瓶頸。

今天的帖子總結一下Gary Illyes帖子里的以及后續跟進的很多博客、論壇帖子的主要內容，以及我自己的一些案例和理解。

強調一下，以下這些概念對百度同樣適用。

什么是搜索引擎蜘蛛抓取份額？

顧名思義，抓取份額是搜索引擎蜘蛛花在一個網站上的抓取頁面的總的時間上限。對于特定網站，搜索引擎蜘蛛花在這個網站上的總時間是相對固定的，不會無限制地抓取網站所有頁面。

抓取份額的英文Google用的是crawl budget，直譯是爬行預算，我覺得不太能說明是什么意思，所以用抓取份額表達這個概念。

抓取份額是由什么決定的呢？這牽扯到抓取需求和抓取速度限制。

抓取需求

抓取需求，crawl demand，指的是搜索引擎“想”抓取特定網站多少頁面。

決定抓取需求的主要有兩個因素。一是頁面權重，網站上有多少頁面達到了基本頁面權重，搜索引擎就想抓取多少頁面。二是索引庫里頁面是否太久沒更新了。說到底還是頁面權重，權重高的頁面就不會太久不更新。

頁面權重和網站權重又是息息相關的，提高網站權重，就能使搜索引擎愿意多抓取頁面。

抓取速度限制

搜索引擎蜘蛛不會為了抓取更多頁面，把人家網站服務器拖垮，所以對某個網站都會設定一個抓取速度的上限，crawl rate limit，也就是服務器能承受的上限，在這個速度限制內，蜘蛛抓取不會拖慢服務器、影響用戶訪問。

服務器反應速度夠快，這個速度限制就上調一點，抓取加快，服務器反應速度下降，速度限制跟著下降，抓取減慢，甚至停止抓取。

所以，抓取速度限制是搜索引擎“能”抓取的頁面數。

抓取份額是由什么決定的？

抓取份額是考慮抓取需求和抓取速度限制兩者之后的結果，也就是搜索引擎“想”抓，同時又“能”抓的頁面數。

網站權重高，頁面內容質量高，頁面夠多，服務器速度夠快，抓取份額就大。

小網站沒必要擔心抓取份額

小網站頁面數少，即使網站權重再低，服務器再慢，每天搜索引擎蜘蛛抓取的再少，通常至少也能抓個幾百頁，十幾天怎么也全站抓取一遍了，所以幾千個頁面的網站根本不用擔心抓取份額的事。數萬個頁面的網站一般也不是什么大事。每天幾百個訪問要是能拖慢服務器，SEO就不是主要需要考慮的事了。

大中型網站可能需要考慮抓取份額

幾十萬頁以上的大中型網站，可能要考慮抓取份額夠不夠的問題。

抓取份額不夠，比如網站有1千萬頁面，搜索引擎每天只能抓幾萬個頁面，那么把網站抓一遍可能需要幾個月，甚至一年，也可能意味著一些重要頁面沒辦法被抓取，所以也就沒排名，或者重要頁面不能及時被更新。

要想網站頁面被及時、充分抓取，首先要保證服務器夠快，頁面夠小。如果網站有海量高質量數據，抓取份額將受限于抓取速度，提高頁面速度直接提高抓取速度限制，因而提高抓取份額。

標題名稱：什么是搜索引擎蜘蛛抓取配額
轉載注明：http://m.newbst.com/news47/190747.html

成都網站建設公司_創新互聯，為您提供網站內鏈、關鍵詞優化、App開發、做網站、建站公司、ChatGPT

廣告

聲明：本網站發布的內容（圖片、視頻和文字）以用戶投稿、用戶轉載內容為主，如果涉及侵權請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網站立場，如需處理請聯系客服。電話：028-86922220；郵箱：631063699@qq.com。內容未經允許不得轉載，或轉載時需注明來源： 創新互聯