2015-06-04 分類: 網站建設
當我們成都網站建設的網站剛上線后,都希望網站被盡快收錄,于是會去吸引蜘蛛的到來,蜘蛛到來的頻率過高有時候會導致iis資源耗盡,網站中時常數出現service unavoidable的提示,這個詞的出現可以直接表現為訪問量很小。
是蜘蛛的到來引起我們網站資源的缺乏,是蜘蛛耗盡服務器資源的,所以我們的解決辦法就針對蜘蛛進行。利用robots.txt中的disallow屏蔽部分沒有實際意義的內容。
格式如下:
user-agent:*
disallow:/search.html
disallow:/index.php?
disallow:/tempweb/
說明:
user-agent:*: *代表允許所有的搜索引擎來抓取數據。
disallow:/search.html:不允許收錄/search.html這個文件的數據。
disallow:/index.php?:不允許收錄以/index.php?為前綴的鏈接。
disallow:/tempweb/:不允許收錄/tempweb/里所有的文件,但可以收錄如:/tempwebtaim.html的鏈接。
本文標題:蜘蛛耗盡服務器資源分析
瀏覽地址:http://m.newbst.com/news/19142.html
成都網站建設公司_創新互聯,為您提供服務器托管、網站維護、自適應網站、手機網站建設、外貿網站建設、網站排名
聲明:本網站發布的內容(圖片、視頻和文字)以用戶投稿、用戶轉載內容為主,如果涉及侵權請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網站立場,如需處理請聯系客服。電話:028-86922220;郵箱:631063699@qq.com。內容未經允許不得轉載,或轉載時需注明來源: 創新互聯
猜你還喜歡下面的內容