本篇文章為大家展示了如何用Python爬取了三大相親軟件評論區(qū),內(nèi)容簡明扼要并且容易理解,絕對能使你眼前一亮,通過這篇文章的詳細介紹希望你能有所收獲。
公司主營業(yè)務:做網(wǎng)站、成都網(wǎng)站設計、移動網(wǎng)站開發(fā)等業(yè)務。幫助企業(yè)客戶真正實現(xiàn)互聯(lián)網(wǎng)宣傳,提高企業(yè)的競爭能力。創(chuàng)新互聯(lián)公司是一支青春激揚、勤奮敬業(yè)、活力青春激揚、勤奮敬業(yè)、活力澎湃、和諧高效的團隊。公司秉承以“開放、自由、嚴謹、自律”為核心的企業(yè)文化,感謝他們對我們的高要求,感謝他們從不同領域給我們帶來的挑戰(zhàn),讓我們激情的團隊有機會用頭腦與智慧不斷的給客戶帶來驚喜。創(chuàng)新互聯(lián)公司推出疏勒免費做網(wǎng)站回饋大家。
小三:怎么了小二?一副愁眉苦臉的樣子。
小二:唉!這不是快過年了嗎,家里又催相親了 ...
小三:現(xiàn)在不是流行網(wǎng)戀嗎,你可以試試相親軟件呀。
小二:這玩意靠譜嗎?
小三:我也沒用過,你自己看看軟件評論區(qū)吧。
小二:這 ... 不過也只能先到評論區(qū)看看了。
以 360 手機助手為例,地址為:http://zhushou.#/
,相親軟件選擇 3 個比較流行的,分別為:世紀佳緣、百合婚戀、有緣網(wǎng),我們使用 Python 爬取軟件評論區(qū),看看用戶評價情況。
先來看一下這三款軟件的下載量和好中差評占比情況(下圖單位為萬次)。
下面開始爬取評論區(qū),以世紀佳緣為例,首先,在搜索框輸入世紀佳緣進行搜索,如圖所示:
接著,點擊搜索到的軟件進入其詳情頁,如圖所示:
將頁面向下拉就可以看到評論區(qū)了,如圖所示:
此時打開開發(fā)者工具并選擇Network
項,點擊查看更多評論
,然后可以看到getComments
請求,如圖所示:
通過這個請求我們就可以動態(tài)獲取評論區(qū)數(shù)據(jù)了,其中參數(shù)star
為開始的評論索引,參數(shù)count
為每次加載的評論個數(shù),可以通過參數(shù)callback
、baike
指定不同應用,爬取代碼實現(xiàn)如下:
headers = {
"Accept": "*/*",
"Accept-Encoding": "gzip, deflate, sdch",
"Accept-Language": "zh-CN,zh;q=0.8",
"Connection": "keep-alive",
"Host": "comment.mobilem.#",
"User-Agent": "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/57.0.2987.98 Safari/537.36 LBBROWSER"
}
def comment_spider(param, file_name):
base_url = "http://comment.mobilem.#/comment/getComments?c=message&a=getmessage&&count=50"
start = 0
for i in range(1, 50):
print("第{}頁".format(i))
url = base_url + param + "&start=" + str(start)
r = requests.get(url, headers=headers)
data = re.findall("{\"errno\"(.*)\);}catch\(e\){}", r.text)
# 轉(zhuǎn)為 Json 格式
jdata = json.loads("{\"errno\"" + data[0])
for message in jdata["data"]["messages"]:
content = message["content"]
print(content)
with open(file_name + ".txt", "a", encoding="utf-8") as f:
f.write(content)
start = start + 50
time.sleep(2)
我們將爬取的評論數(shù)據(jù)存到了 txt 文件中。
接著,我們將評論數(shù)據(jù)進行詞云展示,代碼實現(xiàn)如下:
with open("yy.txt", "r", encoding="utf-8") as f:
content = f.read()
stylecloud.gen_stylecloud(text=content, max_words=600,
collocations=False,
font_path="SIMLI.TTF",
icon_name="fas fa-heart",
size=800,
output_name="yy.png")
Image(filename="yy.png")
最后,通過詞云看一下用戶對上述軟件的評價情況。
世紀佳緣:
百合婚戀:
有緣網(wǎng):
小二:看了有緣網(wǎng)的評論,我感覺自己和相親軟件無緣 ...
小三:...
上述內(nèi)容就是如何用Python爬取了三大相親軟件評論區(qū),你們學到知識或技能了嗎?如果還想學到更多技能或者豐富自己的知識儲備,歡迎關注創(chuàng)新互聯(lián)行業(yè)資訊頻道。