創新互聯www.cdcxhl.cn八線動態BGP香港云服務器提供商，新人活動買多久送多久，劃算不套路！

創新互聯公司服務項目包括江城網站建設、江城網站制作、江城網頁制作以及江城網絡營銷策劃等。多年來，我們專注于互聯網行業，利用自身積累的技術優勢、行業經驗、深度合作伙伴關系等，向廣大中小型企業、政府機構等提供互聯網行業的解決方案，江城網站推廣取得了明顯的社會效益與經濟效益。目前，我們服務的客戶以成都為中心已經輻射到江城省份的部分城市，未來相信會繼續擴大服務區域并繼續獲得客戶的支持與信任！

這篇文章將為大家詳細講解有關使用代理proxy抓取網頁的案例，小編覺得挺實用的，因此分享給大家做個參考，希望大家閱讀完這篇文章后可以有所收獲。

代理類型（proxy）:透明代理，匿名代理，混淆代理和高匿代理. 這里寫一些python爬蟲使用代理的知識, 還有一個代理池的類. 方便大家應對工作中各種復雜的抓取問題。

urllib 模塊使用代理

urllib/urllib2使用代理比較麻煩, 需要先構建一個ProxyHandler的類, 隨后將該類用于構建網頁打開的opener的類,再在request中安裝該opener.

代理格式是"http://127.0.0.1:80",如果要賬號密碼是"http://user:password@127.0.0.1:80".

proxy="http://127.0.0.1:80"
# 創建一個ProxyHandler對象
proxy_support=urllib.request.ProxyHandler({'http':proxy})
# 創建一個opener對象
opener = urllib.request.build_opener(proxy_support)
# 給request裝載opener
urllib.request.install_opener(opener)
# 打開一個url
r = urllib.request.urlopen('http://youtube.com',timeout = 500)

requests 模塊使用代理

requests使用代理要比urllib簡單多了…這里以單次代理為例. 多次的話可以用session一類構建.

如果需要使用代理，你可以通過為任意請求方法提供 proxies 參數來配置單個請求:

import requests
proxies = {
  "http": "http://127.0.0.1:3128",
  "https": "http://127.0.0.1:2080",
}
r=requests.get("http://youtube.com", proxies=proxies)
print r.text

你也可以通過環境變量 HTTP_PROXY 和 HTTPS_PROXY 來配置代理。

export HTTP_PROXY="http://127.0.0.1:3128"
export HTTPS_PROXY="http://127.0.0.1:2080"
python
>>> import requests
>>> r=requests.get("http://youtube.com")
>>> print r.text

若你的代理需要使用HTTP Basic Auth，可以使用 http://user:password@host/ 語法:

proxies = {
    "http": "http://user:pass@127.0.0.1:3128/",
}

python的代理使用非常簡單， 最重要的是要找一個網絡穩定可靠的代理。

關于使用代理proxy抓取網頁的案例就分享到這里了，希望以上內容可以對大家有一定的幫助，可以學到更多知識。如果覺得文章不錯，可以把它分享出去讓更多的人看到。

標題名稱：使用代理proxy抓取網頁的案例-創新互聯
標題鏈接：http://m.newbst.com/article46/dcsheg.html

成都網站建設公司_創新互聯，為您提供微信小程序、軟件開發、App設計、網站制作、ChatGPT、響應式網站

廣告

聲明：本網站發布的內容（圖片、視頻和文字）以用戶投稿、用戶轉載內容為主，如果涉及侵權請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網站立場，如需處理請聯系客服。電話：028-86922220；郵箱：631063699@qq.com。內容未經允許不得轉載，或轉載時需注明來源： 創新互聯