用到的模塊有:requesst、re、pandas
步驟:1.得到url
2.設(shè)置請求頭偽裝瀏覽器,防止被反爬
3.請求獲得文本文件
4.用re.compile()方法復(fù)制文本
5.用pd.DataFrame()讓爬取的信息根據(jù)可讀性,條理性。
成都創(chuàng)新互聯(lián)是一家專注于網(wǎng)站設(shè)計制作、成都網(wǎng)站設(shè)計與策劃設(shè)計,寧河網(wǎng)站建設(shè)哪家好?成都創(chuàng)新互聯(lián)做網(wǎng)站,專注于網(wǎng)站建設(shè)十年,網(wǎng)設(shè)計領(lǐng)域的專業(yè)建站公司;建站業(yè)務(wù)涵蓋:寧河等地區(qū)。寧河做網(wǎng)站價格咨詢:13518219792
import requests
import re
import pandas as pd
url = "https://tophub.today/n/Jb0vmloB1G"
headers = {
"user-agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64)"
" AppleWebKit/537.36 (KHTML, like Gecko) "
"Chrome/100.0.4896.127 Safari/537.36 Edg/100.0.1185.44"
}
r = requests.get(url,headers=headers).text # 得到text文本。
title = re.compile('itemid="[0-9]*">(.*?)') # 這些信息在網(wǎng)頁開發(fā)者模式下可以獲取
titles = title.findall(r)[0:31] # 用findall方法和切片獲得1-30的排行榜
num = re.compile("(.*?) ") #復(fù)制熱度信息
nums = num.findall(r)[0:31]
m = {"今日熱點":titles,"熱度":nums}
file = pd.DataFrame(m) # 使用DataFrame方法使爬取的數(shù)據(jù)更具可讀性。
print(file)
爬取后的樣子:
如果你把這段代碼復(fù)制運(yùn)行,你可能會發(fā)現(xiàn)爬取不到,因為熱榜信息在更新,寫的不太嚴(yán)謹(jǐn),因為作者見解有限,在不斷學(xué)習(xí)中,有啥不足或者補(bǔ)充的,歡迎各位大佬評論!