這篇文章將為大家詳細(xì)講解有關(guān)如何安裝Python3爬蟲利器Scrapy-Splash,小編覺得挺實(shí)用的,因此分享給大家做個(gè)參考,希望大家閱讀完這篇文章后可以有所收獲。
目前成都創(chuàng)新互聯(lián)已為近千家的企業(yè)提供了網(wǎng)站建設(shè)、域名、網(wǎng)絡(luò)空間、網(wǎng)站運(yùn)營(yíng)、企業(yè)網(wǎng)站設(shè)計(jì)、凌河網(wǎng)站維護(hù)等服務(wù),公司將堅(jiān)持客戶導(dǎo)向、應(yīng)用為本的策略,正道將秉承"和諧、參與、激情"的文化,與客戶和合作伙伴齊心協(xié)力一起成長(zhǎng),共同發(fā)展。
Scrapy-Splash是一個(gè)Scrapy中支持JavaScript渲染的工具,本節(jié)來介紹它的安裝方式。
Scrapy-Splash的安裝分為兩部分。一個(gè)是Splash服務(wù)的安裝,具體是通過Docker,安裝之后,會(huì)啟動(dòng)一個(gè)Splash服務(wù),我們可以通過它的接口來實(shí)現(xiàn)JavaScript頁(yè)面的加載。另外一個(gè)是Scrapy-Splash的Python庫(kù)的安裝,安裝之后即可在Scrapy中使用Splash服務(wù)。
1. 相關(guān)鏈接
GitHub:https://github.com/scrapy-plugins/scrapy-splash
PyPI:https://pypi.python.org/pypi/scrapy-splash
使用說明:https://github.com/scrapy-plugins/scrapy-splash#configuration
Splash官方文檔:http://splash.readthedocs.io
2. 安裝Splash
Scrapy-Splash會(huì)使用Splash的HTTP API進(jìn)行頁(yè)面渲染,所以我們需要安裝Splash來提供渲染服務(wù)。這里通過Docker安裝,在這之前請(qǐng)確保已經(jīng)正確安裝好了Docker。
安裝命令如下:
docker run -p 8050:8050 scrapinghub/splash
安裝完成之后,會(huì)有類似的輸出結(jié)果:
2017-07-03 08:53:28+0000 [-] Log opened. 2017-07-03 08:53:28.447291 [-] Splash version: 3.0 2017-07-03 08:53:28.452698 [-] Qt 5.9.1, PyQt 5.9, WebKit 602.1, sip 4.19.3, Twisted 16.1.1, Lua 5.2 2017-07-03 08:53:28.453120 [-] Python 3.5.2 (default, Nov 17 2016, 17:05:23) [GCC 5.4.0 20160609] 2017-07-03 08:53:28.453676 [-] Open files limit: 1048576 2017-07-03 08:53:28.454258 [-] Can't bump open files limit 2017-07-03 08:53:28.571306 [-] Xvfb is started: ['Xvfb', ':1599197258', '-screen', '0', '1024x768x24', '-nolisten', 'tcp'] QStandardPaths: XDG_RUNTIME_DIR not set, defaulting to '/tmp/runtime-root' 2017-07-03 08:53:29.041973 [-] proxy profiles support is enabled, proxy profiles path: /etc/splash/proxy-profiles 2017-07-03 08:53:29.315445 [-] verbosity=1 2017-07-03 08:53:29.315629 [-] slots=50 2017-07-03 08:53:29.315712 [-] argument_cache_max_entries=500 2017-07-03 08:53:29.316564 [-] Web UI: enabled, Lua: enabled (sandbox: enabled) 2017-07-03 08:53:29.317614 [-] Site starting on 8050 2017-07-03 08:53:29.317801 [-] Starting factory
這樣就證明Splash已經(jīng)在8050端口上運(yùn)行了。這時(shí)我們打開http://localhost:8050,即可看到Splash的主頁(yè),如圖1-80所示。
圖1-80 運(yùn)行頁(yè)面
當(dāng)然,Splash也可以直接安裝在遠(yuǎn)程服務(wù)器上。我們?cè)诜?wù)器上以守護(hù)態(tài)運(yùn)行Splash即可,命令如下:
docker run -d -p 8050:8050 scrapinghub/splash
這里多了-d參數(shù),它代表將Docker容器以守護(hù)態(tài)運(yùn)行,這樣在中斷遠(yuǎn)程服務(wù)器連接后,不會(huì)終止Splash服務(wù)的運(yùn)行。
3. Scrapy-Splash的安裝
成功安裝Splash之后,接下來再來安裝其Python庫(kù),命令如下:
pip3 install scrapy-splash
命令運(yùn)行完畢后,就會(huì)成功安裝好此庫(kù),后面會(huì)詳細(xì)介紹它的用法。
關(guān)于如何安裝Python3爬蟲利器Scrapy-Splash就分享到這里了,希望以上內(nèi)容可以對(duì)大家有一定的幫助,可以學(xué)到更多知識(shí)。如果覺得文章不錯(cuò),可以把它分享出去讓更多的人看到。