小編給大家分享一下java多線程爬蟲爬取百度圖片的方法,相信大部分人都還不怎么了解,因此分享這篇文章給大家參考一下,希望大家閱讀完這篇文章后大有收獲,下面讓我們一起去了解一下吧!
創(chuàng)新互聯(lián)建站是專業(yè)的象山網(wǎng)站建設(shè)公司,象山接單;提供網(wǎng)站設(shè)計、成都做網(wǎng)站,網(wǎng)頁設(shè)計,網(wǎng)站設(shè)計,建網(wǎng)站,PHP網(wǎng)站建設(shè)等專業(yè)做網(wǎng)站服務(wù);采用PHP框架,可快速的進行象山網(wǎng)站開發(fā)網(wǎng)頁制作和功能擴展;專業(yè)做搜索引擎喜愛的網(wǎng)站,專業(yè)的做網(wǎng)站團隊,希望更多企業(yè)前來合作!
Java的特點有哪些 1.Java語言作為靜態(tài)面向?qū)ο缶幊陶Z言的代表,實現(xiàn)了面向?qū)ο罄碚?,允許程序員以優(yōu)雅的思維方式進行復(fù)雜的編程。 2.Java具有簡單性、面向?qū)ο?、分布式、安全性、平臺獨立與可移植性、動態(tài)性等特點。 3.使用Java可以編寫桌面應(yīng)用程序、Web應(yīng)用程序、分布式系統(tǒng)和嵌入式系統(tǒng)應(yīng)用程序等。
在網(wǎng)絡(luò)爬蟲中,python爬蟲和java爬蟲都有多線程,python雖然代碼簡單易操作,但是在多線程操作中,python 不及java。如果想要加快爬蟲速度,可以采用java多線程網(wǎng)絡(luò)爬蟲的方法。本文介紹java爬蟲使用多線程的方法爬取百度圖片。
一、java多線程
線程是指一個任務(wù)從頭至尾的執(zhí)行流。
線程提供了運行一個任務(wù)的機制。
對于Java而言,可以在一個程序中并發(fā)地啟動多個線程。這些線程可以在多處理器系統(tǒng)上同時運行。
二、使用java多線程網(wǎng)絡(luò)爬蟲:設(shè)計構(gòu)造器。
1、獲取想要的頁面
public class major { public static void main(String[] args) { int sum = 0; ListurlMains = new ArrayList<>(); List imageUrls = new ArrayList<>(); //首先得到10個頁面 urlMains = CreateUrl.CreateMainUrl(); out.println(urlMains.size()); for(String urlMain : urlMains) { out.println(urlMain); }
2、使用Jsoup和FastJson解析出所有的圖片源鏈接
imageUrls = CreateUrl.CreateImageUrl(urlMains); for(String imageUrl : imageUrls) { out.println(imageUrl); }
3、創(chuàng)建出每個圖片所屬的文件夾,并對圖片源鏈接進行下載(使用多線程進行下載)創(chuàng)建進程
ImageFile.createDir(); int average = imageUrls.size()/10; for(int i = 0; i < 10; i++){ int begin = sum; sum += average; int last = sum; Thread image = null; if(i < 9) { image = new Thread(new ImageFile(begin, last, (ArrayList) imageUrls)); } else { image = new Thread(new ImageFile(begin, imageUrls.size(), (ArrayList ) imageUrls)); } image.start(); } } }
以上是“java多線程爬蟲爬取百度圖片的方法”這篇文章的所有內(nèi)容,感謝各位的閱讀!相信大家都有了一定的了解,希望分享的內(nèi)容對大家有所幫助,如果還想學(xué)習(xí)更多知識,歡迎關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道!