Python中怎么利用正則抓取數(shù)據(jù),針對(duì)這個(gè)問(wèn)題,這篇文章詳細(xì)介紹了相對(duì)應(yīng)的分析和解答,希望可以幫助更多想解決這個(gè)問(wèn)題的小伙伴找到更簡(jiǎn)單易行的方法。
寶應(yīng)網(wǎng)站建設(shè)公司成都創(chuàng)新互聯(lián)公司,寶應(yīng)網(wǎng)站設(shè)計(jì)制作,有大型網(wǎng)站制作公司豐富經(jīng)驗(yàn)。已為寶應(yīng)千余家提供企業(yè)網(wǎng)站建設(shè)服務(wù)。企業(yè)網(wǎng)站搭建\外貿(mào)營(yíng)銷網(wǎng)站建設(shè)要多少錢(qián),請(qǐng)找那個(gè)售后服務(wù)好的寶應(yīng)做網(wǎng)站的公司定做!
1、正則表達(dá)式基礎(chǔ)
(1)一般字符
(2)預(yù)定義字符集
(3)數(shù)量詞
(4)邊界匹配
備注:最常用的一種匹配方式(.*?)代表匹配任意字符
2、re模塊使用方法
re模塊使得Python擁有全部的正則表達(dá)式功能。
常用函數(shù)1:search()函數(shù)匹配并提取第一個(gè)符合規(guī)律的內(nèi)容,返回一個(gè)正則表達(dá)對(duì)象
常用函數(shù)2:findall()函數(shù)匹配所有符合規(guī)律的內(nèi)容,并以列表的形式返回結(jié)果
備注:一般在爬取數(shù)據(jù)時(shí)候還是以findall使用居多
re模塊修飾符
3、案例實(shí)踐
案例名稱:爬取《斗破蒼穹》全文小說(shuō)
網(wǎng)絡(luò)鏈接:http://www.doupoxs.com/doupocangqiong/
爬取思路:
(1)打開(kāi)網(wǎng)頁(yè),了解網(wǎng)頁(yè)URL信息,通過(guò)打開(kāi)第一章和第二章發(fā)現(xiàn)鏈接如下
http://www.doupoxs.com/doupocangqiong/1.html
http://www.doupoxs.com/doupocangqiong/2.html
http://www.doupoxs.com/doupocangqiong/3.html
明顯鏈接通過(guò)數(shù)字遞加來(lái)對(duì)每一章節(jié)進(jìn)行分頁(yè)。
(2)爬取全文信息,查找對(duì)應(yīng)的位置如下
(3)數(shù)據(jù)存儲(chǔ)到TXT文本中
4、詳細(xì)代碼如下:
import requests
import re
import time
headers={
"User-Agent":請(qǐng)求頭}
f=open('doupo.txt','a+')
def get_info(url):
res=requests.get(url,headers=headers)
if res.status_code==200:
contents = re.findall('
(.*?)
',res.content.decode('utf-8'),re.S)
for content in contents:
f.write(content+'\n')
print(content)
else:
pass
if __name__=='__main__':
urls=['http://www.doupoxs.com/doupocangqiong/{}.html'.format(i) for i in range(2,10)]
for url in urls:
get_info(url)
time.sleep(1)
f.close()
運(yùn)行結(jié)果如下:
關(guān)于Python中怎么利用正則抓取數(shù)據(jù)問(wèn)題的解答就分享到這里了,希望以上內(nèi)容可以對(duì)大家有一定的幫助,如果你還有很多疑惑沒(méi)有解開(kāi),可以關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道了解更多相關(guān)知識(shí)。