前言
成都創(chuàng)新互聯(lián)公司成都網(wǎng)站建設(shè)按需求定制網(wǎng)站,是成都網(wǎng)站營銷公司,為成都被動防護(hù)網(wǎng)提供網(wǎng)站建設(shè)服務(wù),有成熟的網(wǎng)站定制合作流程,提供網(wǎng)站定制設(shè)計服務(wù):原型圖制作、網(wǎng)站創(chuàng)意設(shè)計、前端HTML5制作、后臺程序開發(fā)等。成都網(wǎng)站建設(shè)熱線:13518219792python中常用的寫爬蟲的庫常有urllib2、requests,對于大多數(shù)比較簡單的場景或者以學(xué)習(xí)為目的,可以用這兩個庫實(shí)現(xiàn)。這里有一篇我之前寫過的用urllib2+BeautifulSoup做的一個抓取百度音樂熱門歌曲的例子,有興趣可以看一下。
本文介紹用Scrapy抓取我在博客園的博客列表,只抓取博客名稱、發(fā)布日期、閱讀量和評論量這四個簡單的字段,以求用較簡單的示例說明Scrapy的最基本的用法。
環(huán)境配置說明
操作系統(tǒng):Ubuntu 14.04.2 LTS
Python:Python 2.7.6
Scrapy:Scrapy 1.0.3
注意:Scrapy1.0的版本和之前的版本有些區(qū)別,有些類的命名空間改變了。
創(chuàng)建項目
執(zhí)行如下命令創(chuàng)建一個Scrapy項目
scrapy startproject scrapy_cnblogs
另外有需要云服務(wù)器可以了解下創(chuàng)新互聯(lián)scvps.cn,海內(nèi)外云服務(wù)器15元起步,三天無理由+7*72小時售后在線,公司持有idc許可證,提供“云服務(wù)器、裸金屬服務(wù)器、高防服務(wù)器、香港服務(wù)器、美國服務(wù)器、虛擬主機(jī)、免備案服務(wù)器”等云主機(jī)租用服務(wù)以及企業(yè)上云的綜合解決方案,具有“安全穩(wěn)定、簡單易用、服務(wù)可用性高、性價比高”等特點(diǎn)與優(yōu)勢,專為企業(yè)上云打造定制,能夠滿足用戶豐富、多元化的應(yīng)用場景需求。