真实的国产乱ⅩXXX66竹夫人,五月香六月婷婷激情综合,亚洲日本VA一区二区三区,亚洲精品一区二区三区麻豆

成都創(chuàng)新互聯(lián)網(wǎng)站制作重慶分公司

Flink入門知識點有哪些

這篇文章主要講解了“Flink入門知識點有哪些”,文中的講解內(nèi)容簡單清晰,易于學(xué)習(xí)與理解,下面請大家跟著小編的思路慢慢深入,一起來研究和學(xué)習(xí)“Flink入門知識點有哪些”吧!

成都創(chuàng)新互聯(lián)公司是專業(yè)的西和網(wǎng)站建設(shè)公司,西和接單;提供成都網(wǎng)站制作、成都網(wǎng)站建設(shè),網(wǎng)頁設(shè)計,網(wǎng)站設(shè)計,建網(wǎng)站,PHP網(wǎng)站建設(shè)等專業(yè)做網(wǎng)站服務(wù);采用PHP框架,可快速的進行西和網(wǎng)站開發(fā)網(wǎng)頁制作和功能擴展;專業(yè)做搜索引擎喜愛的網(wǎng)站,專業(yè)的做網(wǎng)站團隊,希望更多企業(yè)前來合作!

什么是Flink?

在Flink的官網(wǎng)上,可以把官方文檔語言設(shè)置為中文,于是我們可以看到官方是這樣介紹的:

Flink入門知識點有哪些

基于官網(wǎng)的一句話介紹,我們就可以聯(lián)想出很多東西。

這篇文章可以帶你簡單認識一下Flink的一些基礎(chǔ)概念,等你真正用到的時候就可以依據(jù)這篇文章來對Flink進行入門,現(xiàn)在Storm都被很多人給拋棄掉了,那么Flink優(yōu)于Storm的地方有哪些呢?接下來我們一起來看看Flink吧。

什么是有邊界和無邊界?

Apache Flink 是一個框架和分布式處理引擎,用于在無邊界和有邊界數(shù)據(jù)流上進行有狀態(tài)的計算。

官方其實也有介紹,但對初學(xué)者來說不太好理解,我來幼兒園化一下。

大家學(xué)到Flink了,消息隊列肯定有用過吧?那你們是怎么用消息隊列的呢?Producer生產(chǎn)數(shù)據(jù),發(fā)給Broker,Consumer消費,完事。

在消費的時候,我們需要管什么Producer什么時候發(fā)消息嗎?不需要吧。反正來一條,我就處理一條,沒毛病吧。

這種沒有做任何處理的消息,默認就是無邊界的。

那有邊界就很好理解了:無邊界的基礎(chǔ)上加上條件,那就是有邊界的。加什么條件呢?比如我要加個時間:我要消費從8月8號到8月9號的數(shù)據(jù),那就是有邊界的。

Flink入門知識點有哪些

什么叫做有狀態(tài)?

Apache Flink 是一個框架和分布式處理引擎,用于在無邊界和有邊界數(shù)據(jù)流上進行有狀態(tài)的計算。

什么是有狀態(tài),什么是無狀態(tài)?

無狀態(tài)我們可以簡單認為:每次的執(zhí)行都不依賴上一次或上N次的執(zhí)行結(jié)果,每次的執(zhí)行都是獨立的。

有狀態(tài)我們可以簡單認為:執(zhí)行需要依賴上一次或上N次的執(zhí)行結(jié)果,某次的執(zhí)行需要依賴前面事件的處理結(jié)果。

Flink入門知識點有哪些

可以簡單的認為:Flink本身就給我們提供了”存儲“的功能,而我們每次執(zhí)行是可以依賴Flink的”存儲”的,所以它是有狀態(tài)的。

Flink入門知識點有哪些

Flink入門知識點有哪些

以上面的圖為例:Source數(shù)據(jù)流有以下數(shù)字21,13,8,5,3,2,1,1,然后在Flink需要做累加操作(求和)

現(xiàn)在處理完2,1,1了,所以累加的值是4,現(xiàn)在Flink把累積后的狀態(tài)4已經(jīng)存儲起來了(認為前面2,1,1這幾個數(shù)字已經(jīng)完全處理過了)。

程序一直往下走,處理了5,3,現(xiàn)在累加的值是12,但現(xiàn)在Flink還沒來得及把12存儲到最終的介質(zhì),此時系統(tǒng)掛掉了。

Flink重啟后會重新把系統(tǒng)恢復(fù)到累加的值是4的狀態(tài),所以5,3得繼續(xù)計算一遍,程序繼續(xù)往下走。

看文章有的同學(xué)可能會認為:精確一次性指的不是某一段代碼只會執(zhí)行一次,不會執(zhí)行多次或不執(zhí)行。這53這兩個數(shù),你不是重復(fù)計算了嗎?怎么就精確一次了?

顯然,代碼只執(zhí)行一次肯定是不可能的嘛。我們無法控制系統(tǒng)在哪一行代碼掛掉的,你要是在掛的時候,當(dāng)前方法還沒執(zhí)行完,你還是得重新執(zhí)行該方法的。

所以,狀態(tài)只持久化一次最終的存儲介質(zhì)中(本地數(shù)據(jù)庫/HDFS),在Flink下就叫做exactly once(計算的數(shù)據(jù)可能會重復(fù)(無法避免),但狀態(tài)在存儲介質(zhì)上只會存儲一次)。

那么Flink是在多長時間存儲一次的呢?這個是我們自己手動配置的。

Flink入門知識點有哪些

我們是做完了業(yè)務(wù)規(guī)則才將offset進行commit的,checkponit其實也是一樣的(等拉下來該條數(shù)據(jù)所有的流程走完,才進行真正的checkponit)。

問題又來了,那checkpoint是怎么知道拉下來的數(shù)據(jù)已經(jīng)走完了呢?Flink在流處理過程中插入了barrier,每個環(huán)節(jié)處理到barrier都會上報,等到sink都上報了barrier就說明這次checkpoint已經(jīng)走完了。

Flink入門知識點有哪些

感謝各位的閱讀,以上就是“Flink入門知識點有哪些”的內(nèi)容了,經(jīng)過本文的學(xué)習(xí)后,相信大家對Flink入門知識點有哪些這一問題有了更深刻的體會,具體使用情況還需要大家實踐驗證。這里是創(chuàng)新互聯(lián),小編將為大家推送更多相關(guān)知識點的文章,歡迎關(guān)注!


當(dāng)前名稱:Flink入門知識點有哪些
地址分享:http://weahome.cn/article/jcocjj.html

其他資訊

在線咨詢

微信咨詢

電話咨詢

028-86922220(工作日)

18980820575(7×24)

提交需求

返回頂部