真实的国产乱ⅩXXX66竹夫人,五月香六月婷婷激情综合,亚洲日本VA一区二区三区,亚洲精品一区二区三区麻豆

成都創(chuàng)新互聯(lián)網(wǎng)站制作重慶分公司

如何安裝Python3爬蟲利器Scrapy-Splash

這篇文章將為大家詳細(xì)講解有關(guān)如何安裝Python3爬蟲利器Scrapy-Splash,小編覺得挺實(shí)用的,因此分享給大家做個(gè)參考,希望大家閱讀完這篇文章后可以有所收獲。

目前成都創(chuàng)新互聯(lián)已為近千家的企業(yè)提供了網(wǎng)站建設(shè)、域名、網(wǎng)絡(luò)空間、網(wǎng)站運(yùn)營(yíng)、企業(yè)網(wǎng)站設(shè)計(jì)、凌河網(wǎng)站維護(hù)等服務(wù),公司將堅(jiān)持客戶導(dǎo)向、應(yīng)用為本的策略,正道將秉承"和諧、參與、激情"的文化,與客戶和合作伙伴齊心協(xié)力一起成長(zhǎng),共同發(fā)展。

Scrapy-Splash是一個(gè)Scrapy中支持JavaScript渲染的工具,本節(jié)來介紹它的安裝方式。

Scrapy-Splash的安裝分為兩部分。一個(gè)是Splash服務(wù)的安裝,具體是通過Docker,安裝之后,會(huì)啟動(dòng)一個(gè)Splash服務(wù),我們可以通過它的接口來實(shí)現(xiàn)JavaScript頁(yè)面的加載。另外一個(gè)是Scrapy-Splash的Python庫(kù)的安裝,安裝之后即可在Scrapy中使用Splash服務(wù)。

1. 相關(guān)鏈接

GitHub:https://github.com/scrapy-plugins/scrapy-splash

PyPI:https://pypi.python.org/pypi/scrapy-splash

使用說明:https://github.com/scrapy-plugins/scrapy-splash#configuration

Splash官方文檔:http://splash.readthedocs.io

2. 安裝Splash

Scrapy-Splash會(huì)使用Splash的HTTP API進(jìn)行頁(yè)面渲染,所以我們需要安裝Splash來提供渲染服務(wù)。這里通過Docker安裝,在這之前請(qǐng)確保已經(jīng)正確安裝好了Docker。

安裝命令如下:

docker run -p 8050:8050 scrapinghub/splash

安裝完成之后,會(huì)有類似的輸出結(jié)果:

2017-07-03 08:53:28+0000 [-] Log opened.
2017-07-03 08:53:28.447291 [-] Splash version: 3.0
2017-07-03 08:53:28.452698 [-] Qt 5.9.1, PyQt 5.9, WebKit 602.1, sip 4.19.3, Twisted 16.1.1, Lua 5.2
2017-07-03 08:53:28.453120 [-] Python 3.5.2 (default, Nov 17 2016, 17:05:23) [GCC 5.4.0 20160609]
2017-07-03 08:53:28.453676 [-] Open files limit: 1048576
2017-07-03 08:53:28.454258 [-] Can't bump open files limit
2017-07-03 08:53:28.571306 [-] Xvfb is started: ['Xvfb', ':1599197258', '-screen', '0', '1024x768x24', '-nolisten', 
'tcp']
QStandardPaths: XDG_RUNTIME_DIR not set, defaulting to '/tmp/runtime-root'
2017-07-03 08:53:29.041973 [-] proxy profiles support is enabled, proxy profiles path: /etc/splash/proxy-profiles
2017-07-03 08:53:29.315445 [-] verbosity=1
2017-07-03 08:53:29.315629 [-] slots=50
2017-07-03 08:53:29.315712 [-] argument_cache_max_entries=500
2017-07-03 08:53:29.316564 [-] Web UI: enabled, Lua: enabled (sandbox: enabled)
2017-07-03 08:53:29.317614 [-] Site starting on 8050
2017-07-03 08:53:29.317801 [-] Starting factory 

這樣就證明Splash已經(jīng)在8050端口上運(yùn)行了。這時(shí)我們打開http://localhost:8050,即可看到Splash的主頁(yè),如圖1-80所示。

如何安裝Python3爬蟲利器Scrapy-Splash

圖1-80 運(yùn)行頁(yè)面

當(dāng)然,Splash也可以直接安裝在遠(yuǎn)程服務(wù)器上。我們?cè)诜?wù)器上以守護(hù)態(tài)運(yùn)行Splash即可,命令如下:

docker run -d -p 8050:8050 scrapinghub/splash

這里多了-d參數(shù),它代表將Docker容器以守護(hù)態(tài)運(yùn)行,這樣在中斷遠(yuǎn)程服務(wù)器連接后,不會(huì)終止Splash服務(wù)的運(yùn)行。

3. Scrapy-Splash的安裝

成功安裝Splash之后,接下來再來安裝其Python庫(kù),命令如下:

pip3 install scrapy-splash

命令運(yùn)行完畢后,就會(huì)成功安裝好此庫(kù),后面會(huì)詳細(xì)介紹它的用法。

關(guān)于如何安裝Python3爬蟲利器Scrapy-Splash就分享到這里了,希望以上內(nèi)容可以對(duì)大家有一定的幫助,可以學(xué)到更多知識(shí)。如果覺得文章不錯(cuò),可以把它分享出去讓更多的人看到。


當(dāng)前名稱:如何安裝Python3爬蟲利器Scrapy-Splash
本文地址:http://weahome.cn/article/jpggeo.html

其他資訊

在線咨詢

微信咨詢

電話咨詢

028-86922220(工作日)

18980820575(7×24)

提交需求

返回頂部