這篇文章主要介紹“怎么利用Python網(wǎng)絡(luò)爬蟲獲取電影天堂視頻下載鏈接”,在日常操作中,相信很多人在怎么利用Python網(wǎng)絡(luò)爬蟲獲取電影天堂視頻下載鏈接問題上存在疑惑,小編查閱了各式資料,整理出簡單好用的操作方法,希望對大家解答”怎么利用Python網(wǎng)絡(luò)爬蟲獲取電影天堂視頻下載鏈接”的疑惑有所幫助!接下來,請跟著小編一起來學(xué)習(xí)吧!
成都創(chuàng)新互聯(lián)公司成都網(wǎng)站建設(shè)定制制作,是成都網(wǎng)站維護(hù)公司,為成都PE包裝袋提供網(wǎng)站建設(shè)服務(wù),有成熟的網(wǎng)站定制合作流程,提供網(wǎng)站定制設(shè)計(jì)服務(wù):原型圖制作、網(wǎng)站創(chuàng)意設(shè)計(jì)、前端HTML5制作、后臺程序開發(fā)等。成都網(wǎng)站制作熱線:18982081108
【一、項(xiàng)目背景】
相信大家都有一種頭疼的體驗(yàn),要下載電影特別費(fèi)勁,對吧?要一部一部的下載,而且不能直觀的知道最近電影更新的狀態(tài)。
今天小編以電影天堂為例,帶大家更直觀的去看自己喜歡的電影,并且下載下來。
【二、項(xiàng)目準(zhǔn)備】
首先 我們第一步我們要安裝一個Pycharm的軟件。Pycharm軟件安裝可以看這篇教程:Python環(huán)境搭建—安利Python小白的Python和Pycharm安裝詳細(xì)教程。
電影天堂網(wǎng)的網(wǎng)址:
https://www.ygdy8.net/html/gndy/dyzz/list_23_1.html
我們需要下載幾個庫,怎么下載呢?首先打開Pycharm點(diǎn)擊File再點(diǎn)開setting。
打開后會出現(xiàn)這個界面點(diǎn)擊你的項(xiàng)目名字(project:(你的項(xiàng)目名字))project interpreter點(diǎn)擊加號下載我們需要的庫本項(xiàng)目需要(requests,requests,time,re模塊),如下圖所示。
如果不會加載解釋器的話,可以參考這篇手把手教程:安裝好Pycharm后如何配置Python解釋器簡易教程。
如果還缺少相應(yīng)庫的話,可以按照如下方式進(jìn)行下載和安裝。
【三、項(xiàng)目實(shí)施】
我們需要(requests,requests,time,re模塊 ),如下圖所示。
用封裝方法去實(shí)現(xiàn)各個部分功能。首先要寫一個框架 :構(gòu)造一個類FilmSky 然后定義一個—init方法里繼承(self),再定義一個主方法(main)。最后實(shí)現(xiàn)這個main方法。代碼如下:
這個time是用于防止反爬,設(shè)置的時間延時。
首先我們來分析一下這個網(wǎng)址下一頁得到特點(diǎn)。
通過點(diǎn)擊了三頁我們會發(fā)現(xiàn)地址都是在原有的基礎(chǔ)上“23—3,4,5”這樣的變化。
我們可以用{}去代替變化的值就像這樣:
https://www.ygdy8.net/html/gndy/dyzz/list_23_{}.html
這樣我們在inti方法初始化url地址和構(gòu)造請求頭。
在主方法main函數(shù)里邊用for循環(huán)實(shí)現(xiàn)遍歷網(wǎng)址。
得到下圖這樣的結(jié)果:
說明你已經(jīng)成功一半了加油??!
現(xiàn)在我們需要對這些網(wǎng)址發(fā)生請求,為了更直觀的看出來,我們用一個類寫。
我們用requests發(fā)生請求 這個網(wǎng)站的編碼是gbk (怎么看網(wǎng)站的編碼?)。
打開一個網(wǎng)站右鍵檢查在header的標(biāo)簽,以這個網(wǎng)站為例,可以看到charset=“gb312”。
這個gb2312就是編碼 我們常見的編碼方式有2種(utf_8, gbk)。
我們可以驗(yàn)證一下是不是真的請求到了。使用Print(html)看到這個結(jié)果(一個完整的html網(wǎng)頁)說明請求成功。
我們再定義這個方法(對我們的網(wǎng)頁代碼進(jìn)行解析)。
我們用正則表達(dá)式 來解析數(shù)據(jù) 我們右鍵檢查可以看到我們要的網(wǎng)站在table里面的
所以我們可以先找到table,一層一層的去找,可以參考一下下面的圖。
正則表達(dá)式就是(.*?)里面就是你想要得到的內(nèi)容,“.*?”就是可以省略其中的標(biāo)簽,取到你想要地區(qū)那一層。for循環(huán)遍歷得到每個網(wǎng)址,點(diǎn)擊這些網(wǎng)址我們要對二級頁面發(fā)生請求,并解析它。
因?yàn)樵诰W(wǎng)頁網(wǎng)址上的鏈接有一些是空的 ,所有這樣會導(dǎo)致電影下載的鏈接不匹配。所以我們要加個判斷,如果下載鏈接的長度大于0那么就照常顯示,否則就給它一個空值,這樣就不會不對應(yīng)了。最后返回這個結(jié)果,如下圖所示。
點(diǎn)開第二級頁面如圖右鍵點(diǎn)擊下載鏈接,如下圖所示:
我們用正則表達(dá)式解析 得到我們下載鏈接地址,如下圖所示:
看去了不是很美觀,我們把鏈接處理一下,如下圖所示:
得到結(jié)果,如下圖所示:
最后我們用把數(shù)據(jù)保存在一個字典加上下載鏈接和電影名字:
最后我們優(yōu)化一下請求的代碼有點(diǎn)重復(fù) 我們優(yōu)化一下;
用一個值去保存說明請求頭的內(nèi)容以后請求我們只有調(diào)用這個方法進(jìn)行請求就好,如下圖所示:
程序運(yùn)行之后可以看到效果圖,如下圖所示:
到此,關(guān)于“怎么利用Python網(wǎng)絡(luò)爬蟲獲取電影天堂視頻下載鏈接”的學(xué)習(xí)就結(jié)束了,希望能夠解決大家的疑惑。理論與實(shí)踐的搭配能更好的幫助大家學(xué)習(xí),快去試試吧!若想繼續(xù)學(xué)習(xí)更多相關(guān)知識,請繼續(xù)關(guān)注創(chuàng)新互聯(lián)網(wǎng)站,小編會繼續(xù)努力為大家?guī)砀鄬?shí)用的文章!