這篇文章給大家分享的是有關(guān)Node.js如何爬取豆瓣數(shù)據(jù)的內(nèi)容。小編覺得挺實用的,因此分享給大家做個參考,一起跟隨小編過來看看吧。
我們提供的服務(wù)有:成都網(wǎng)站制作、網(wǎng)站建設(shè)、微信公眾號開發(fā)、網(wǎng)站優(yōu)化、網(wǎng)站認證、復興ssl等。為成百上千家企事業(yè)單位解決了網(wǎng)站和推廣的問題。提供周到的售前咨詢和貼心的售后服務(wù),是有科學管理、有技術(shù)的復興網(wǎng)站制作公司
這次給大家?guī)鞱ode.js爬取豆瓣數(shù)據(jù)實例,Node.js爬取豆瓣數(shù)據(jù)的注意事項有哪些,下面就是實戰(zhàn)案例,一起來看一下。
一直自以為自己vue還可以,一直自以為webpack還可以,今天在慕課逛node的時候,才發(fā)現(xiàn),自己還差的很遠。眾所周知,vue-cli基于webpack,而webpack基于node,對node不了解,談什么了解webpack。所以就自己給自己出了一道題,爬取豆瓣數(shù)據(jù),目前還處于初級階段。今天就淺談爬取到豆瓣的數(shù)據(jù),再另一個頁面用自己的方式展現(xiàn),后續(xù)會跟進。
1、需要解決的問題
搭建服務(wù)
怎么處理爬到的數(shù)據(jù)
怎么自動打開默認瀏覽器
2、搭建服務(wù)
搭建服務(wù)有好幾種方式,一開始我用的http,但是http有個弊端就是不能解析https協(xié)議的url,所以就用了express,解析https協(xié)議的網(wǎng)址我用了request包,豆瓣的網(wǎng)址是https的,
今天爬取的是https://movie.douban.com/chart這個網(wǎng)址;如下圖,我要獲取的有三個部分,圖片、電影名字、電影鏈接.
3、怎么處理爬到的數(shù)據(jù)
我們用request爬到的數(shù)據(jù),怎么處理呢?cheerio包可以讓我們像Jq那樣處理爬到的html數(shù)據(jù)。
①、首先解析數(shù)據(jù),取到爬取網(wǎng)頁的html數(shù)據(jù);
②、然后利用cheerio包操作爬到的數(shù)據(jù),取到你想要的數(shù)據(jù)。
③、取到數(shù)據(jù),創(chuàng)建html,輸出到頁面。如下圖,我用的字符串拼接,辦法有點笨,還沒有找到更好的辦法。
4、怎么自動打開默認瀏覽器
不知道你有沒有看vue-cli中webpack的配置,自動打開瀏覽器,vue-cli用的opn包.
這個包用起來很方便,引入包,直接調(diào)用opn(url)即可;
5、展示
感謝各位的閱讀!關(guān)于“Node.js如何爬取豆瓣數(shù)據(jù)”這篇文章就分享到這里了,希望以上內(nèi)容可以對大家有一定的幫助,讓大家可以學到更多知識,如果覺得文章不錯,可以把它分享出去讓更多的人看到吧!