這篇文章主要介紹了python爬蟲中如何爬取新聞,具有一定借鑒價(jià)值,感興趣的朋友可以參考下,希望大家閱讀完這篇文章之后大有收獲,下面讓小編帶著大家一起了解一下。
站在用戶的角度思考問題,與客戶深入溝通,找到崇川網(wǎng)站設(shè)計(jì)與崇川網(wǎng)站推廣的解決方案,憑借多年的經(jīng)驗(yàn),讓設(shè)計(jì)與互聯(lián)網(wǎng)技術(shù)結(jié)合,創(chuàng)造個(gè)性化、用戶體驗(yàn)好的作品,建站類型包括:做網(wǎng)站、網(wǎng)站建設(shè)、企業(yè)官網(wǎng)、英文網(wǎng)站、手機(jī)端網(wǎng)站、網(wǎng)站推廣、主機(jī)域名、網(wǎng)站空間、企業(yè)郵箱。業(yè)務(wù)覆蓋崇川地區(qū)。
python的五大特點(diǎn):1.簡單易學(xué),開發(fā)程序時(shí),專注的是解決問題,而不是搞明白語言本身。2.面向?qū)ο?,與其他主要的語言如C++和Java相比, Python以一種非常強(qiáng)大又簡單的方式實(shí)現(xiàn)面向?qū)ο缶幊獭?.可移植性,Python程序無需修改就可以在各種平臺上運(yùn)行。4.解釋性,Python語言寫的程序不需要編譯成二進(jìn)制代碼,可以直接從源代碼運(yùn)行程序。5.開源,Python是 FLOSS(自由/開放源碼軟件)之一。
1、爬蟲思路:
定義編碼形式并引入模塊;
請求新聞網(wǎng)站URL,獲取其text文本并解析;
通過select選擇器定位解析文件指定的元素,返回一個(gè)列表并遍歷;
獲取相關(guān)內(nèi)容。
2、具體實(shí)現(xiàn)
第一步:使用UTF-8編碼形式定義文件(避免一些編碼錯(cuò)誤導(dǎo)致中文亂碼),并引入相關(guān)模塊。
# coding:utf-8 # 引入相關(guān)模塊 import requests from bs4 import BeautifulSoup url = "http://news.qq.com/"
第二步:請求新聞網(wǎng)站URL,獲取其text文本
wbdata = requests.get(url).text
第三步:解析獲取到的文本
soup = BeautifulSoup(wbdata,'lxml')
第四步:通過select選擇器定位解析文件指定的元素,返回一個(gè)列表
從解析文件中通過select選擇器定位指定的元素,返回一個(gè)列表 news_titles = soup.select("div.text > em.f14 > a.linkto")
第五步:遍歷返回的列表
for n in news_titles:
第六步:獲取新聞標(biāo)題及信息
# 提取出標(biāo)題和鏈接信息 title = n.get_text() link = n.get("href") data = { '標(biāo)題':title, '鏈接':link } print(data)
感謝你能夠認(rèn)真閱讀完這篇文章,希望小編分享的“python爬蟲中如何爬取新聞”這篇文章對大家有幫助,同時(shí)也希望大家多多支持創(chuàng)新互聯(lián),關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道,更多相關(guān)知識等著你來學(xué)習(xí)!