小編給大家分享一下python3中requests庫(kù)怎么實(shí)現(xiàn)多圖片爬取,希望大家閱讀完這篇文章之后都有所收獲,下面讓我們一起去探討吧!
成都創(chuàng)新互聯(lián)公司服務(wù)項(xiàng)目包括界首網(wǎng)站建設(shè)、界首網(wǎng)站制作、界首網(wǎng)頁(yè)制作以及界首網(wǎng)絡(luò)營(yíng)銷(xiāo)策劃等。多年來(lái),我們專(zhuān)注于互聯(lián)網(wǎng)行業(yè),利用自身積累的技術(shù)優(yōu)勢(shì)、行業(yè)經(jīng)驗(yàn)、深度合作伙伴關(guān)系等,向廣大中小型企業(yè)、政府機(jī)構(gòu)等提供互聯(lián)網(wǎng)行業(yè)的解決方案,界首網(wǎng)站推廣取得了明顯的社會(huì)效益與經(jīng)濟(jì)效益。目前,我們服務(wù)的客戶(hù)以成都為中心已經(jīng)輻射到界首省份的部分城市,未來(lái)相信會(huì)繼續(xù)擴(kuò)大服務(wù)區(qū)域并繼續(xù)獲得客戶(hù)的支持與信任!其實(shí)爬取圖片和你下載圖片是一個(gè)樣子的,都是操作鏈接,也就是url,所以當(dāng)我們確定要爬取的東西后就要開(kāi)始尋找url了,所以先打開(kāi)百度圖片搜一下。
然后使用瀏覽器F12進(jìn)入開(kāi)發(fā)者模式,或者右鍵檢查元素
注意看xhr,點(diǎn)開(kāi)觀察有什么不一樣的(如果沒(méi)有xhr就在網(wǎng)頁(yè)下滑)
第一個(gè)是這樣的
第二個(gè)是這樣的
注意看,pn是不是是30的倍數(shù),而此時(shí)網(wǎng)頁(yè)圖片的數(shù)量也在增多,發(fā)現(xiàn)了這個(gè),進(jìn)url看一下,首先看原網(wǎng)頁(yè)源碼
view-source:http://image.baidu.com/search/index?tn=baiduimage&ipn=r&ct=201326592&cl=2&lm=-1&st=-1&fm=index&fr=&hs=0&xthttps=111121&sf=1&fmq=&pv=&ic=0&nc=1&z=&se=1&showtab=0&fb=0&width=&height=&face=0&istype=2&ie=utf-8&word=%E7%BE%8E%E5%A5%B3&oq=%E7%BE%8E%E5%A5%B3&rsp=-1
再看看兩個(gè)Requests URL的頁(yè)面,發(fā)現(xiàn)都是這樣的
不用管他,找我們要的信息,ObjURL,"ObjURL":"http:\/\/image.tianjimedia.com\/uploadimages\/2015\/131\/34\/545szi3x5s84_680x500.jpg"
就是這個(gè),好,現(xiàn)在東西都找到在哪了,寫(xiě)程序咯
import re import requests import os name=input('輸入文件夾名稱(chēng):') robot='C:/Users/lenovo/Desktop/'+name+'/' kv={'user-agent':'mozilla/5.0'} #獲取url對(duì)應(yīng)的源碼頁(yè)面 def getHTMLText(url): try: r=requests.get(url,timeout=30,headers=kv) r.raise_for_status() r.encoding=r.apparent_encoding return r.text except: return '' #解析url源碼頁(yè)面 def parserHTML(html): #正則表達(dá)式為獲取ObjURL pattern=r'"ObjURL":"(.*?)"' reg=re.compile(pattern) urls=re.findall(reg,html) return urls #下載圖片 def download(List): for url in List: try: path=robot+url.split('/')[-1] url=url.replace('\\','') r=requests.get(url,timeout=30) r.raise_for_status() r.encoding=r.apparent_encoding if not os.path.exists(robot): os.makedirs(robot) if not os.path.exists(path): with open(path,'wb') as f: f.write(r.content) f.close() print(path+' 文件保存成功') else: print('文件已經(jīng)存在') except: continue #通過(guò)Requests URL請(qǐng)求到更多的url源碼頁(yè)面 def getmoreurl(num,word): ur=[] url=r'http://image.baidu.com/search/acjson?tn=resultjson_com&ipn=rj&ct=201326592&is=&fp=result&queryWord={word}&cl=2&lm=-1&ie=utf-8&oe=utf-8&adpicid=&st=-1&z=&ic=0&word={word}&s=&se=&tab=&width=&height=&face=0&istype=2&qc=&nc=1&fr=&cg=girl&pn={pn}&rn=30' for x in range(1,num+1): #word為搜索關(guān)鍵詞,num為想獲取的頁(yè)面數(shù)量 u=url.format(word=word,pn=30*x) ur.append(u) return ur def main(): n=int(input('輸入想下載多少?gòu)垐D片(n*30):')) word=input('輸入想下載的圖片:') #初始頁(yè)面url url='http://image.baidu.com/search/index?tn=baiduimage&ipn=r&ct=201326592&cl=2&lm=-1&st=-1&fm=result&fr=&sf=1&fmq=1499773676062_R&pv=&ic=0&nc=1&z=&se=1&showtab=0&fb=0&width=&height=&face=0&istype=2&ie=utf-8&word={word}'.format(word=word) html=getHTMLText(url) urls=parserHTML(html) download(urls) #下面操作獲取的更多頁(yè)面圖片 url1=getmoreurl(n,word) for i in range(n): html1=getHTMLText(url1[i]) urls1=parserHTML(html1) download(urls1) main()
看完了這篇文章,相信你對(duì)“python3中requests庫(kù)怎么實(shí)現(xiàn)多圖片爬取”有了一定的了解,如果想了解更多相關(guān)知識(shí),歡迎關(guān)注創(chuàng)新互聯(lián)成都網(wǎng)站設(shè)計(jì)公司行業(yè)資訊頻道,感謝各位的閱讀!
另外有需要云服務(wù)器可以了解下創(chuàng)新互聯(lián)scvps.cn,海內(nèi)外云服務(wù)器15元起步,三天無(wú)理由+7*72小時(shí)售后在線,公司持有idc許可證,提供“云服務(wù)器、裸金屬服務(wù)器、高防服務(wù)器、香港服務(wù)器、美國(guó)服務(wù)器、虛擬主機(jī)、免備案服務(wù)器”等云主機(jī)租用服務(wù)以及企業(yè)上云的綜合解決方案,具有“安全穩(wěn)定、簡(jiǎn)單易用、服務(wù)可用性高、性?xún)r(jià)比高”等特點(diǎn)與優(yōu)勢(shì),專(zhuān)為企業(yè)上云打造定制,能夠滿(mǎn)足用戶(hù)豐富、多元化的應(yīng)用場(chǎng)景需求。
當(dāng)前題目:python3中requests庫(kù)怎么實(shí)現(xiàn)多圖片爬取-創(chuàng)新互聯(lián)
URL地址:http://m.newbst.com/article34/dcejse.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供服務(wù)器托管、全網(wǎng)營(yíng)銷(xiāo)推廣、Google、網(wǎng)站內(nèi)鏈、定制網(wǎng)站、網(wǎng)站維護(hù)
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶(hù)投稿、用戶(hù)轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來(lái)源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容