真实的国产乱ⅩXXX66竹夫人,五月香六月婷婷激情综合,亚洲日本VA一区二区三区,亚洲精品一区二区三区麻豆

成都創(chuàng)新互聯(lián)網(wǎng)站制作重慶分公司

java多線程爬蟲爬取百度圖片的方法

小編給大家分享一下java多線程爬蟲爬取百度圖片的方法,相信大部分人都還不怎么了解,因此分享這篇文章給大家參考一下,希望大家閱讀完這篇文章后大有收獲,下面讓我們一起去了解一下吧!

創(chuàng)新互聯(lián)建站是專業(yè)的象山網(wǎng)站建設(shè)公司,象山接單;提供網(wǎng)站設(shè)計、成都做網(wǎng)站,網(wǎng)頁設(shè)計,網(wǎng)站設(shè)計,建網(wǎng)站,PHP網(wǎng)站建設(shè)等專業(yè)做網(wǎng)站服務(wù);采用PHP框架,可快速的進行象山網(wǎng)站開發(fā)網(wǎng)頁制作和功能擴展;專業(yè)做搜索引擎喜愛的網(wǎng)站,專業(yè)的做網(wǎng)站團隊,希望更多企業(yè)前來合作!

Java的特點有哪些

Java的特點有哪些 1.Java語言作為靜態(tài)面向?qū)ο缶幊陶Z言的代表,實現(xiàn)了面向?qū)ο罄碚?,允許程序員以優(yōu)雅的思維方式進行復(fù)雜的編程。 2.Java具有簡單性、面向?qū)ο?、分布式、安全性、平臺獨立與可移植性、動態(tài)性等特點。 3.使用Java可以編寫桌面應(yīng)用程序、Web應(yīng)用程序、分布式系統(tǒng)和嵌入式系統(tǒng)應(yīng)用程序等。

在網(wǎng)絡(luò)爬蟲中,python爬蟲和java爬蟲都有多線程,python雖然代碼簡單易操作,但是在多線程操作中,python 不及java。如果想要加快爬蟲速度,可以采用java多線程網(wǎng)絡(luò)爬蟲的方法。本文介紹java爬蟲使用多線程的方法爬取百度圖片。

一、java多線程

線程是指一個任務(wù)從頭至尾的執(zhí)行流。

線程提供了運行一個任務(wù)的機制。

對于Java而言,可以在一個程序中并發(fā)地啟動多個線程。這些線程可以在多處理器系統(tǒng)上同時運行。

二、使用java多線程網(wǎng)絡(luò)爬蟲:設(shè)計構(gòu)造器。

1、獲取想要的頁面

public class major {
public static void main(String[] args) {
int sum = 0;
List urlMains = new ArrayList<>();
List imageUrls = new ArrayList<>();
//首先得到10個頁面
urlMains = CreateUrl.CreateMainUrl();
out.println(urlMains.size());
for(String urlMain : urlMains) {
out.println(urlMain);
}

2、使用Jsoup和FastJson解析出所有的圖片源鏈接

imageUrls = CreateUrl.CreateImageUrl(urlMains);
for(String imageUrl : imageUrls) {
out.println(imageUrl);
}

3、創(chuàng)建出每個圖片所屬的文件夾,并對圖片源鏈接進行下載(使用多線程進行下載)創(chuàng)建進程

ImageFile.createDir();
int average = imageUrls.size()/10;

for(int i = 0; i < 10; i++){
int begin = sum;
sum += average;
int last = sum;
Thread image = null;
if(i < 9) {
image = new Thread(new ImageFile(begin, last,
(ArrayList) imageUrls));
} else {
image = new Thread(new ImageFile(begin, imageUrls.size(),
(ArrayList) imageUrls));
}
image.start();
}
}
}

以上是“java多線程爬蟲爬取百度圖片的方法”這篇文章的所有內(nèi)容,感謝各位的閱讀!相信大家都有了一定的了解,希望分享的內(nèi)容對大家有所幫助,如果還想學(xué)習(xí)更多知識,歡迎關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道!


文章名稱:java多線程爬蟲爬取百度圖片的方法
網(wǎng)頁鏈接:http://weahome.cn/article/jsogpg.html

其他資訊

在線咨詢

微信咨詢

電話咨詢

028-86922220(工作日)

18980820575(7×24)

提交需求

返回頂部