免费观看又色又爽又黄的小说免费_美女福利视频国产片_亚洲欧美精品_美国一级大黄大色毛片

搜索蜘蛛:什么是robots.txt,要怎么寫?

2023-06-01    分類: 網站建設

作為一名SEOer大家肯定是知道搜索蜘蛛的,但是關于robots.txt這個搜索蜘蛛遵循協議,卻鮮少有人談起,其實用好robots是很容易為你網站提權的,這里我不廢話了,直接說。

第一,用robots屏蔽網站重復頁

很多網站一個內容提供多種瀏覽版本,雖然很方便用戶卻對蜘蛛造成了困難,因為它分不清那個是主,那個是次,一旦讓它認為你在惡意重復,兄弟你就慘了

User-agent: *

Disallow: /sitemap/ 《禁止蜘蛛抓取 文本網頁》

第二,用robots保護網站安全

很多人納悶了,robots怎么還和網站安全有關系了?其實關系還很大,不少低級黑客就是通過搜索默認后臺登陸,以達到入侵網站的目標

User-agent: *

Disallow: /admin/ 《禁止蜘蛛抓取admin目錄下所有文件》

第三,防止盜鏈

一般盜鏈也就幾個人,可是一旦被搜索引擎“盜鏈”那家伙你100M寬帶也吃不消,如果你做的不是圖片網站,又不想被搜索引擎“盜鏈”你的網站圖片

User-agent: *

Disallow: .jpg$

第四,提交網站地圖

現在做優化的都知道做網站地圖了,可是卻沒幾個會提交的,絕大多數人是干脆在網頁上加個鏈接,其實robots是支持這個功能的

Sitemap: http://www.01netcn.com/sitemap.xml

第五,禁止某二級域名的抓取

一些網站會對VIP會員提供一些特殊服務,卻又不想這個服務被搜索引擎檢索到

User-agent: *

Disallow: /

本文題目:搜索蜘蛛:什么是robots.txt,要怎么寫?
分享URL:http://m.newbst.com/news45/261945.html

成都網站建設公司_創新互聯,為您提供營銷型網站建設面包屑導航外貿建站動態網站網站維護響應式網站

廣告

聲明:本網站發布的內容(圖片、視頻和文字)以用戶投稿、用戶轉載內容為主,如果涉及侵權請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網站立場,如需處理請聯系客服。電話:028-86922220;郵箱:631063699@qq.com。內容未經允許不得轉載,或轉載時需注明來源: 創新互聯

網站建設網站維護公司