2013-06-11 分類(lèi): 網(wǎng)站建設(shè)
詳解的robots.txt協(xié)議文件寫(xiě)法!多建站系統(tǒng),在建成網(wǎng)站后,都網(wǎng)站根目錄,默認(rèn)有robots.txt協(xié)議文件。在網(wǎng)站優(yōu)化競(jìng)爭(zhēng)日益加劇的今天,原本設(shè)立之初無(wú)優(yōu)化因素的robots.txt文件也被大化使用,掌握其寫(xiě)法,有備無(wú)患。
一:robots.txt […]
很多建站系統(tǒng),在建成網(wǎng)站后,都網(wǎng)站根目錄,默認(rèn)有robots.txt協(xié)議文件。在網(wǎng)站優(yōu)化競(jìng)爭(zhēng)日益加劇的今天,原本設(shè)立之初無(wú)優(yōu)化因素的robots.txt文件也被大化使用,掌握其寫(xiě)法,有備無(wú)患。
一:robots.txt協(xié)議文件有什么用?
搜索引擎訪問(wèn)一個(gè)網(wǎng)站的時(shí)候,最先訪問(wèn)的文件就是robots.txt。她告訴搜索引擎蜘蛛,哪些網(wǎng)站頁(yè)面可以被抓取,哪些禁止抓取。表面來(lái)看,這個(gè)功能作用有限。從搜索引擎優(yōu)化的角度來(lái)看,可以通過(guò)屏蔽頁(yè)面,達(dá)到集中權(quán)重的作用,這,也是優(yōu)化人員最為看重的地方。
以某seo站點(diǎn)為例,其robots.txt文件如圖所示:
二:網(wǎng)站設(shè)置robots.txt的幾個(gè)原因。
1:設(shè)置訪問(wèn)權(quán)限保護(hù)網(wǎng)站安全。
2:禁止搜索引擎爬取無(wú)效頁(yè)面,集中權(quán)值到主要頁(yè)面。
三:怎么用標(biāo)準(zhǔn)寫(xiě)法書(shū)寫(xiě)協(xié)議?
有幾個(gè)概念需掌握。
User-agent表示定義哪個(gè)搜索引擎,如User-agent:Baiduspider,定義百度蜘蛛。
Disallow表示禁止訪問(wèn)。
Allow表示運(yùn)行訪問(wèn)。
通過(guò)以上三個(gè)命令,可以組合多種寫(xiě)法,允許哪個(gè)搜索引擎訪問(wèn)或禁止哪個(gè)頁(yè)面。
四:哪些時(shí)候需要使用該協(xié)議。
1:無(wú)用頁(yè)面,很多網(wǎng)站都有聯(lián)系我們,用戶協(xié)議等頁(yè)面,這些頁(yè)面相對(duì)于搜索引擎優(yōu)化來(lái)講,作用不大,此時(shí)需要使用Disallow命令禁止這些頁(yè)面被搜索引擎抓取。
2:動(dòng)態(tài)頁(yè)面,企業(yè)類(lèi)型站點(diǎn)屏蔽動(dòng)態(tài)頁(yè)面,有利于網(wǎng)站安全。且多個(gè)網(wǎng)址訪問(wèn)同一頁(yè)面,會(huì)造成權(quán)重分散。因此,一般情況下,屏蔽動(dòng)態(tài)頁(yè)面,保留靜態(tài)或偽靜態(tài)頁(yè)面。
3:網(wǎng)站后臺(tái)頁(yè)面,網(wǎng)站后臺(tái)也可以歸類(lèi)于無(wú)用頁(yè)面,禁止收錄有百益而無(wú)一害。
五:robots.txt文件放在那里?
此文件需放置在網(wǎng)站的根目錄,且對(duì)字母大小有限制,文件名必須為小寫(xiě)字母。所有的命令第一個(gè)字母需大寫(xiě),其余的小寫(xiě)。且命令之后要有一個(gè)英文字符空格。
以上就是robots.txt協(xié)議文件寫(xiě)法的相關(guān)內(nèi)容介紹,希望今天分享內(nèi)容可以幫助大家更加了解robots.txt協(xié)議文件寫(xiě)法。推薦閱讀:學(xué)習(xí)SEO需要知道哪些代碼?
當(dāng)前題目:詳解的robots.txt協(xié)議文件寫(xiě)法
文章地址:http://m.newbst.com/news15/1615.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供移動(dòng)網(wǎng)站建設(shè)、響應(yīng)式網(wǎng)站、網(wǎng)站維護(hù)、服務(wù)器托管、網(wǎng)頁(yè)設(shè)計(jì)公司、網(wǎng)站建設(shè)
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來(lái)源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容