小編給大家分享一下python3中requests庫怎么實現(xiàn)多圖片爬取,希望大家閱讀完這篇文章之后都有所收獲,下面讓我們一起去探討吧!
成都創(chuàng)新互聯(lián)公司服務項目包括界首網(wǎng)站建設、界首網(wǎng)站制作、界首網(wǎng)頁制作以及界首網(wǎng)絡營銷策劃等。多年來,我們專注于互聯(lián)網(wǎng)行業(yè),利用自身積累的技術優(yōu)勢、行業(yè)經(jīng)驗、深度合作伙伴關系等,向廣大中小型企業(yè)、政府機構等提供互聯(lián)網(wǎng)行業(yè)的解決方案,界首網(wǎng)站推廣取得了明顯的社會效益與經(jīng)濟效益。目前,我們服務的客戶以成都為中心已經(jīng)輻射到界首省份的部分城市,未來相信會繼續(xù)擴大服務區(qū)域并繼續(xù)獲得客戶的支持與信任!其實爬取圖片和你下載圖片是一個樣子的,都是操作鏈接,也就是url,所以當我們確定要爬取的東西后就要開始尋找url了,所以先打開百度圖片搜一下。
然后使用瀏覽器F12進入開發(fā)者模式,或者右鍵檢查元素
注意看xhr,點開觀察有什么不一樣的(如果沒有xhr就在網(wǎng)頁下滑)
第一個是這樣的
第二個是這樣的
注意看,pn是不是是30的倍數(shù),而此時網(wǎng)頁圖片的數(shù)量也在增多,發(fā)現(xiàn)了這個,進url看一下,首先看原網(wǎng)頁源碼
view-source:http://image.baidu.com/search/index?tn=baiduimage&ipn=r&ct=201326592&cl=2&lm=-1&st=-1&fm=index&fr=&hs=0&xthttps=111121&sf=1&fmq=&pv=&ic=0&nc=1&z=&se=1&showtab=0&fb=0&width=&height=&face=0&istype=2&ie=utf-8&word=%E7%BE%8E%E5%A5%B3&oq=%E7%BE%8E%E5%A5%B3&rsp=-1
再看看兩個Requests URL的頁面,發(fā)現(xiàn)都是這樣的
不用管他,找我們要的信息,ObjURL,"ObjURL":"http:\/\/image.tianjimedia.com\/uploadimages\/2015\/131\/34\/545szi3x5s84_680x500.jpg"
就是這個,好,現(xiàn)在東西都找到在哪了,寫程序咯
import re import requests import os name=input('輸入文件夾名稱:') robot='C:/Users/lenovo/Desktop/'+name+'/' kv={'user-agent':'mozilla/5.0'} #獲取url對應的源碼頁面 def getHTMLText(url): try: r=requests.get(url,timeout=30,headers=kv) r.raise_for_status() r.encoding=r.apparent_encoding return r.text except: return '' #解析url源碼頁面 def parserHTML(html): #正則表達式為獲取ObjURL pattern=r'"ObjURL":"(.*?)"' reg=re.compile(pattern) urls=re.findall(reg,html) return urls #下載圖片 def download(List): for url in List: try: path=robot+url.split('/')[-1] url=url.replace('\\','') r=requests.get(url,timeout=30) r.raise_for_status() r.encoding=r.apparent_encoding if not os.path.exists(robot): os.makedirs(robot) if not os.path.exists(path): with open(path,'wb') as f: f.write(r.content) f.close() print(path+' 文件保存成功') else: print('文件已經(jīng)存在') except: continue #通過Requests URL請求到更多的url源碼頁面 def getmoreurl(num,word): ur=[] url=r'http://image.baidu.com/search/acjson?tn=resultjson_com&ipn=rj&ct=201326592&is=&fp=result&queryWord={word}&cl=2&lm=-1&ie=utf-8&oe=utf-8&adpicid=&st=-1&z=&ic=0&word={word}&s=&se=&tab=&width=&height=&face=0&istype=2&qc=&nc=1&fr=&cg=girl&pn={pn}&rn=30' for x in range(1,num+1): #word為搜索關鍵詞,num為想獲取的頁面數(shù)量 u=url.format(word=word,pn=30*x) ur.append(u) return ur def main(): n=int(input('輸入想下載多少張圖片(n*30):')) word=input('輸入想下載的圖片:') #初始頁面url url='http://image.baidu.com/search/index?tn=baiduimage&ipn=r&ct=201326592&cl=2&lm=-1&st=-1&fm=result&fr=&sf=1&fmq=1499773676062_R&pv=&ic=0&nc=1&z=&se=1&showtab=0&fb=0&width=&height=&face=0&istype=2&ie=utf-8&word={word}'.format(word=word) html=getHTMLText(url) urls=parserHTML(html) download(urls) #下面操作獲取的更多頁面圖片 url1=getmoreurl(n,word) for i in range(n): html1=getHTMLText(url1[i]) urls1=parserHTML(html1) download(urls1) main()
看完了這篇文章,相信你對“python3中requests庫怎么實現(xiàn)多圖片爬取”有了一定的了解,如果想了解更多相關知識,歡迎關注創(chuàng)新互聯(lián)成都網(wǎng)站設計公司行業(yè)資訊頻道,感謝各位的閱讀!
另外有需要云服務器可以了解下創(chuàng)新互聯(lián)scvps.cn,海內外云服務器15元起步,三天無理由+7*72小時售后在線,公司持有idc許可證,提供“云服務器、裸金屬服務器、高防服務器、香港服務器、美國服務器、虛擬主機、免備案服務器”等云主機租用服務以及企業(yè)上云的綜合解決方案,具有“安全穩(wěn)定、簡單易用、服務可用性高、性價比高”等特點與優(yōu)勢,專為企業(yè)上云打造定制,能夠滿足用戶豐富、多元化的應用場景需求。