這篇文章主要介紹“JAVA爬蟲區(qū)塊鏈快訊的方法是什么”，在日常操作中，相信很多人在JAVA爬蟲區(qū)塊鏈快訊的方法是什么問題上存在疑惑，小編查閱了各式資料，整理出簡單好用的操作方法，希望對大家解答”JAVA爬蟲區(qū)塊鏈快訊的方法是什么”的疑惑有所幫助！接下來，請跟著小編一起來學(xué)習(xí)吧！

創(chuàng)新互聯(lián)是專業(yè)的確山網(wǎng)站建設(shè)公司，確山接單;提供網(wǎng)站設(shè)計、做網(wǎng)站,網(wǎng)頁設(shè)計,網(wǎng)站設(shè)計,建網(wǎng)站,PHP網(wǎng)站建設(shè)等專業(yè)做網(wǎng)站服務(wù);采用PHP框架,可快速的進行確山網(wǎng)站開發(fā)網(wǎng)頁制作和功能擴展;專業(yè)做搜索引擎喜愛的網(wǎng)站,專業(yè)的做網(wǎng)站團隊,希望更多企業(yè)前來合作!

需求：

    需要將目標(biāo)的幾個站點的快訊內(nèi)容做定時爬取，并根據(jù)內(nèi)容做重復(fù)過濾。

技術(shù)評審：

    站點的內(nèi)容抓取剛開始是想用python，但在內(nèi)容重復(fù)過濾這塊沒想好實踐路徑就未直接采用python；

    JAVA也看過其他一些開源框架比如：“xxl-crawler”"WebCollector",這兩個框架其實在分布式上面略有些優(yōu)勢，但在文本過濾上并未有太好的解決文案；

    a、任務(wù)調(diào)度：

        任務(wù)調(diào)度用Quartz，成熟、靈活

    b、文本重復(fù)過濾

            考慮到數(shù)據(jù)多的時候重復(fù)數(shù)據(jù)匹配量比較大，如果用分詞的內(nèi)容做索引再循環(huán)過濾匹配文本項，效率太低；有沒有一種方式可以快速建好文本特征，方便的使用關(guān)系數(shù)據(jù)庫就可以做一個全局濾重。

            答案是：有的，為每個快訊文本建一個指紋，重復(fù)的文本或者較大篇幅的文本重復(fù)

             其原理簡述一下：Simhash算法將給定文本，根據(jù)其中的關(guān)鍵字，將文本最終計算出一個32位二進制串，我將生成的二進制串分成四個8位串，這樣方便快速計算匹配度，數(shù)量大的時候還可以在指紋上建索引提高效率。

   上圖為根據(jù)抓取的內(nèi)容做的生成的指紋

    關(guān)鍵實現(xiàn)：

上圖為整個模塊基本架構(gòu)

爬蟲任務(wù)線程：是用戶Quartz做調(diào)度，每個目標(biāo)站是單獨的一個Job，具體的調(diào)度交給Quatz，爬蟲的子JOB再抽取一個父類，做爬蟲模板，這樣單個爬蟲代碼量就很少了，附上一個目標(biāo)站的實現(xiàn)類：

public class LianNewsJob extends NewsJob implements Job {
protected static long MAX_ID=0;

Logger logger = LoggerFactory.getLogger(WalianNewsJob.class);

@Override
public void execute(JobExecutionContext jobExecutionContext) {
TAG="WALIAN";
try {
saveNewsToQueue(getContent());
}catch (Exception e){
logger.error(TAG+"采集異常",e);
}

}

/**
* 抓取資訊
* @return
*/
private List getContent(){
LxbNewsSuorce newsItem;
List newsList = new ArrayList<>();
List jsonList = new ArrayList<>();

try {

String responseJsonStr = getHttpContent(Constants.WALIAN_URL);
JSONObject responseJO = JSON.parseObject(responseJsonStr);
if(StringUtils.equals(responseJO.getString("code"),"000000")) {
JSONArray contentList = responseJO.getJSONObject("data").getJSONArray("list");
for (int i = 0; i < contentList.size(); i++) {
jsonList.add(contentList.getJSONObject(i));
}
sortContent(jsonList);

for (JSONObject jObj : jsonList) {
if (jObj.getLong("id") > MAX_ID) {
newsItem = new LxbNewsSuorce();
newsItem.setTitle(jObj.getString("title"));
newsItem.setContent(StringUtils.replace(jObj.getString("content")));
newsList.add(newsItem);
MAX_ID = jObj.getLong("id");
}
}
}
} catch (Exception e) {
logger.error(TAG+"抓取異常",e);
}
return newsList;
}

boolean isTitleExist(String title ){
Query userQuery = DBManager.getSqlManager().query(LxbNewsSuorce.class);
List newsList = userQuery.andEq("title",title).select();
if(newsList.size() > 0){
return true;
}
return false;
}

到此，關(guān)于“JAVA爬蟲區(qū)塊鏈快訊的方法是什么”的學(xué)習(xí)就結(jié)束了，希望能夠解決大家的疑惑。理論與實踐的搭配能更好的幫助大家學(xué)習(xí)，快去試試吧！若想繼續(xù)學(xué)習(xí)更多相關(guān)知識，請繼續(xù)關(guān)注創(chuàng)新互聯(lián)網(wǎng)站，小編會繼續(xù)努力為大家?guī)砀鄬嵱玫奈恼拢?/p>
網(wǎng)站欄目：JAVA爬蟲區(qū)塊鏈快訊的方法是什么
分享地址：http://weahome.cn/article/iihjsg.html