2017-01-01 分類: 網(wǎng)站建設(shè)
網(wǎng)站的robots.txt文本有什么用處呢?
站長們在做網(wǎng)站優(yōu)化的時(shí)候,都會(huì)給網(wǎng)站做robots協(xié)議,什么是robots協(xié)議呢?其實(shí)說白了就是一個(gè)txt文本,那么這個(gè)txt文本有什么用處呢?
什么是robots協(xié)議?
robots是網(wǎng)站和搜索引擎之間的一個(gè)協(xié)議。用來防止一些不想被搜索引擎索引的頁面或內(nèi)容的抓取,而且可以吧sitemap地圖的路徑放在robots協(xié)議中,這樣有助于網(wǎng)站地圖的抓取。能夠有效提高網(wǎng)站的健康度、純凈度,降低網(wǎng)站垃圾內(nèi)容收錄
robots協(xié)議怎么寫?
robots的常用的命令一般有:
User-agent:*(這里的*代表的所有的搜索引擎種類,這句話表示可以讓所有的搜索引擎都可以訪問抓取這個(gè)網(wǎng)站。)
Disallow:(這個(gè)表示禁止的意思,一些不想讓搜索引擎訪問的頁面可以把路徑寫下來。)
Allow:(這個(gè)表示允許的意思,想要搜索引擎訪問頁面可以把路徑寫下來。)
robots協(xié)議的作用
通過我們上面的內(nèi)容,我們對robots也有了了解。當(dāng)搜索引擎王文網(wǎng)站時(shí),會(huì)優(yōu)先訪問網(wǎng)站的robots協(xié)議,從中來獲取信息來抓取網(wǎng)站。那么如果沒有robots協(xié)議會(huì)對網(wǎng)站有什么影響呢?
1、如果沒有robots,搜索引擎蜘蛛訪問網(wǎng)站時(shí)依舊會(huì)先訪問robots.txt,沒有的話會(huì)返回404頁面,影響雖然不大,但是也決對不好。
2、沒有robots,搜索引擎蜘蛛默認(rèn)抓取所有內(nèi)容。這一點(diǎn)影響不是很大,但是還是取決于網(wǎng)站的內(nèi)容,如果存在很多低質(zhì)量的內(nèi)容,建議還是使用robots進(jìn)行限制比較好。
網(wǎng)頁名稱:網(wǎng)站的robots.txt寫法有什么好處
文章轉(zhuǎn)載:http://m.newbst.com/news/73808.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供網(wǎng)站制作、靜態(tài)網(wǎng)站、網(wǎng)站設(shè)計(jì)公司、企業(yè)建站、企業(yè)網(wǎng)站制作、品牌網(wǎng)站建設(shè)
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容