2023-05-29 分類: 網(wǎng)站建設(shè)
在網(wǎng)站建設(shè)的時候,因為一些操作,導(dǎo)致正常的網(wǎng)站無法被搜索引擎爬蟲訪問,進而使搜索引擎認為該頁面是死鏈接。除了頁面無法打開,一下的幾個點都可以導(dǎo)致網(wǎng)站死鏈的產(chǎn)生。
以下小編就給出一些死鏈的產(chǎn)生情況,本次文章素材來自百度公開課搜索引擎課程,具備相對的權(quán)威性。其他搜索引擎同樣可以參考該篇文章來進行設(shè)置。
減少死鏈的產(chǎn)生,是從事SEO工作工作者必修課。
HTTP/HTTPS設(shè)置不當引起死鏈
問題場景:
1.HTTP可訪問 ,HTTPS不可訪問
2.HTTP不可訪問 ,HTTPS可訪問
建議:
整站行為一致,保證所有的URL正常訪問,另外百度方面不建議HTTP與HTTPS共生。
封禁引起死鏈
問題場景:
1.用戶可以正常訪問,爬蟲不能。(爬蟲抓取的是錯誤的頁面)
一些網(wǎng)站因為特殊性,導(dǎo)致用戶可以正常訪問,但是當爬蟲訪問時,卻返回一個錯誤的頁面。
2.PC端可訪問,搜索引擎APP不能訪問
搜索引擎爬蟲可以訪問PC端頁面,但是不能訪問APP。百度官方的公開課說到這個APP訪問,暗指是支持APP內(nèi)訪問的一個分析,來作為一個綜合評估參考。所以,不屏蔽百度APP對網(wǎng)站的訪問。
3.DNS封禁
有些特定的DNS服務(wù)商會封禁搜索引擎爬蟲來抓取域名的內(nèi)容。這種在少數(shù),畢竟目前主流域名廠商,已經(jīng)主流的DNS廠商都沒有做DNS封禁。
4.服務(wù)器站點策略封禁
有些服務(wù)器自帶的安全策略會屏蔽百度蜘蛛的抓取,這種情況會產(chǎn)生死鏈(網(wǎng)頁URL鏈接,但是無內(nèi)容)。當這種情況在整個網(wǎng)站出現(xiàn),會導(dǎo)致搜索引擎判斷網(wǎng)站為一個劣質(zhì)網(wǎng)站。會被降權(quán)。
建議:
合理的使用站長資源工具,來診斷站點是否能正常抓取
識別百度爬蟲(雙向DNS解析認證)解除封禁
對spider不公開內(nèi)容設(shè)置robots協(xié)議封禁/設(shè)置死鏈,導(dǎo)致返回404
不建議使用額外的技術(shù)手段封禁百度爬蟲。
對百度APP可以訪問
DNS變更引起死鏈
問題場景:
站點更新DNS解析,將域名的IP變更,IP1變?yōu)镮P2,中間有時間差。
當站點的更換域名解析的IP后,因為有些DNS并不能做到立即響應(yīng)解析(一般為24小時)。我們拿24小時為例,中間有曾時間差,導(dǎo)致搜索引擎蜘蛛無法抓取,會評定為死鏈。
這個時候可以預(yù)留4-5天的緩存期,讓爬蟲來更新這個DNS
建議:
更換DNS后,使用站長資源平臺工具來抓取測試,查看網(wǎng)站是否能正常抓取。
當前文章:這些情況可能會在網(wǎng)站建設(shè)時導(dǎo)致死鏈的產(chǎn)生
文章地址:http://m.newbst.com/news48/261248.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供標簽優(yōu)化、網(wǎng)站制作、ChatGPT、軟件開發(fā)、手機網(wǎng)站建設(shè)、品牌網(wǎng)站制作
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容