真实的国产乱ⅩXXX66竹夫人,五月香六月婷婷激情综合,亚洲日本VA一区二区三区,亚洲精品一区二区三区麻豆

成都創(chuàng)新互聯(lián)網(wǎng)站制作重慶分公司

Kafka2.5.0有哪些新功能

本篇內(nèi)容主要講解“Kafka2.5.0有哪些新功能”,感興趣的朋友不妨來看看。本文介紹的方法操作簡單快捷,實用性強。下面就讓小編來帶大家學習“Kafka2.5.0有哪些新功能”吧!

你所需要的網(wǎng)站建設服務,我們均能行業(yè)靠前的水平為你提供.標準是產(chǎn)品質(zhì)量的保證,主要從事成都網(wǎng)站建設、成都網(wǎng)站制作、企業(yè)網(wǎng)站建設、手機網(wǎng)站制作設計、網(wǎng)頁設計、品牌網(wǎng)站建設、網(wǎng)頁制作、做網(wǎng)站、建網(wǎng)站。成都創(chuàng)新互聯(lián)擁有實力堅強的技術(shù)研發(fā)團隊及素養(yǎng)的視覺設計專才。

一、新功能

1、Kafka Streams: Add Cogroup in the DSL

當多個流聚集在一起以形成單個較大的對象時(例如,購物網(wǎng)站可能具有購物車流,心愿單流和購買流。它們共同構(gòu)成一個客戶),將其在Kafka Streams DSL中使用非常困難。

通常需要您將所有流分組并聚合到KTables,然后進行多個外部聯(lián)接調(diào)用,最后得到具有所需對象的KTable。這將為每個流和一長串ValueJoiners創(chuàng)建一個狀態(tài)存儲,每個新記錄都必須經(jīng)過此連接才能到達最終對象。

創(chuàng)建使用單個狀態(tài)存儲的Cogroup 方法將:

  • 減少從狀態(tài)存儲獲取的數(shù)量。對于多個聯(lián)接,當新值進入任何流時,都會發(fā)生連鎖反應,聯(lián)接處理器將繼續(xù)調(diào)用ValueGetters,直到我們訪問了所有狀態(tài)存儲。

  • 性能略有提高。如上所述,所有ValueGetters都被調(diào)用,還導致所有ValueJoiners被調(diào)用,從而強制重新計算所有其他流的當前聯(lián)接值,從而影響性能。

2、Add support for TLS 1.3

Java 11添加了對TLS 1.3的支持。添加對Java 11的支持后,我們應該對此提供支持。

3、不再支持Scala 2.11

為什么不再支持?

我們目前為3個Scala版本構(gòu)建Kafka:2.11、2.12和最近發(fā)布的2.13。由于我們必須在每個受支持的版本上編譯和運行測試,因此從開發(fā)和測試的角度來看,這是一筆不小的成本。

Scala 2.11.0于2014年4月發(fā)布,對2.11.x的支持于2017年11月結(jié)束(到發(fā)布Kafka 2.5時將超過2年)。Scala 2.12.0于2016年11月發(fā)布,Scala 2.13.0于2019年6月發(fā)布?;诖?,現(xiàn)在該放棄對Scala 2.11的支持了,以便我們使測試矩陣易于管理(最近的kafka-trunk-jdk8占用了將近10個小時,它將使用3個Scala版本構(gòu)建并運行單元測試和集成測試。此外,Scala 2.12和更高版本還改進了與Java 8功能接口的互操作性(Scala 2.12中首次引入)。更具體地說,Scala 2.12中的lambda可以與Java 8代碼相同的方式與Java 8功能接口一起使用。

在我們的下載頁面中,我們推薦自Kafka 2.1.0起使用Scala 2.12構(gòu)建的Kafka二進制文件。我們切換到Scala 2.12作為Kafka 2.2.0中源tarball,構(gòu)建和系統(tǒng)測試的默認Scala版本。

二、改進與修復

  • 當輸入 topic 事務時,Kafka Streams lag 不為 0

  • Kafka-streams 可配置內(nèi)部 topics message.timestamp.type=CreateTime

  • 將 KStream#toTable 添加到 Streams DSL

  • 將 Commit/List Offsets 選項添加到 AdminClient

  • 將 VoidSerde 添加到 Serdes

  • 改進 Sensor Retrieval

[KAFKA-3061] 修復Guava依賴問題

[KAFKA-4203] Java生產(chǎn)者默認的最大消息大小不再與broker默認一致

[KAFKA-5868] kafka消費者reblance時間過長問題

詳細更新內(nèi)容點此查看

三、其他版本升級至2.5.0指南

如果要從2.1.x之前的版本升級,請參閱以下注釋,以了解用于存儲偏移量的架構(gòu)的更改。將inter.broker.protocol.version更改為最新版本后,將無法降級到2.1之前的版本。

在所有Broker上更新server.properties并添加以下屬性。CURRENT_KAFKA_VERSION指的是您要升級的版本。CURRENT_MESSAGE_FORMAT_VERSION是指當前使用的消息格式版本。如果以前覆蓋了消息格式版本,則應保留其當前值?;蛘?,如果要從0.11.0.x之前的版本升級,則應將CURRENT_MESSAGE_FORMAT_VERSION設置為與CURRENT_KAFKA_VERSION相匹配。

  • inter.broker.protocol.version = CURRENT_KAFKA_VERSION(例如0.10.0、0.11.0、1.0、2.0、2.2)。

  • log.message.format.version = CURRENT_MESSAGE_FORMAT_VERSION

  • 如果要從0.11.0.x或更高版本升級,并且尚未覆蓋消息格式,則只需要覆蓋Broker間協(xié)議版本。

    • inter.broker.protocol.version = CURRENT_KAFKA_VERSION(0.11.0,1.0,1.1,2.0,2.1,2.2,2.3)。

  • 一次升級一個Broker:關閉Broker,更新代碼,然后重新啟動。完成此操作后,Broker將運行最新版本,并且您可以驗證集群的行為和性能是否符合預期。如果有任何問題,此時仍可以降級。

  • 驗證群集的行為和性能后,通過編輯inter.broker.protocol.version并將其設置為2.5來提高協(xié)議版本 。

  • 逐一重新啟動Broker,以使新協(xié)議版本生效。Broker開始使用最新協(xié)議版本后,將無法再將群集降級到較舊版本。

  • 如果您已按照上述說明覆蓋了消息格式版本,則需要再次滾動重啟以將其升級到最新版本。一旦所有(或大多數(shù))使用者均已升級到0.11.0或更高版本,則在每個Broker上將log.message.format.version更改為2.5,然后逐一重新啟動它們。請注意,不再維護的較舊的Scala客戶端不支持0.11中引入的消息格式,因此,為避免轉(zhuǎn)換成本,必須使用較新的Java客戶端。

2.5.0主要的變化,可能產(chǎn)生的升級影響

  • RebalanceProtocol#COOPERATIVE使用時,Consumer#poll仍然可以返回數(shù)據(jù),此外, Consumer#commitSync現(xiàn)在可以拋出RebalanceInProgressException來通知用戶此類事件,CommitFailedException并允許用戶完成正在進行的Reblance,然后重新嘗試為那些仍然擁有的分區(qū)提交偏移量。

  • 為了提高典型網(wǎng)絡環(huán)境中的彈性,默認值 zookeeper.session.timeout.ms已從6s增加到18s, replica.lag.time.max.ms從10s增加到30s。

  • cogroup()添加了新的DSL運營商,用于一次將多個流聚合在一起。

  • 添加了新的KStream.toTable()API,可將輸入事件流轉(zhuǎn)換為KTable。

  • 添加了新的Serde類型Void以表示輸入主題中的空鍵或空值。

  • 棄用UsePreviousTimeOnInvalidTimestamp并替換為UsePartitionTimeOnInvalidTimeStamp。

  • 通過添加掛起的偏移防護機制和更強大的事務提交一致性檢查,改進了一次精確語義,這大大簡化了可伸縮的一次精確應用程序的實現(xiàn)。

  • 棄用KafkaStreams.store(String, QueryableStoreType)并替換為KafkaStreams.store(StoreQueryParameters)

  • 不再支持Scala 2.11。

  • 軟件包中的所有Scala類kafka.security.auth均已棄用。請注意,在2.4.0中已棄用kafka.security.auth.Authorizer 和kafka.security.auth.SimpleAclAuthorizer。

  • 默認情況下,TLSv1和TLSv1.1已被禁用,因為它們具有已知的安全漏洞?,F(xiàn)在默認情況下僅啟用TLSv1.2。您可以通過在配置選項ssl.protocol和中明確啟用它們來繼續(xù)使用TLSv1和TLSv1.1 ssl.enabled.protocols

  • ZooKeeper已升級到3.5.7,并且如果3.4數(shù)據(jù)目錄中沒有快照文件,則ZooKeeper從3.4.X升級到3.5.7可能會失敗。這通常發(fā)生在測試升級中,其中ZooKeeper 3.5.7嘗試加載沒有創(chuàng)建快照文件的現(xiàn)有3.4數(shù)據(jù)目錄。

  • ZooKeeper 3.5.7版支持有或沒有客戶端證書的TLS加密的到ZooKeeper的連接,并且可以使用其他Kafka配置來利用此功能。

到此,相信大家對“Kafka2.5.0有哪些新功能”有了更深的了解,不妨來實際操作一番吧!這里是創(chuàng)新互聯(lián)網(wǎng)站,更多相關內(nèi)容可以進入相關頻道進行查詢,關注我們,繼續(xù)學習!


新聞名稱:Kafka2.5.0有哪些新功能
鏈接地址:http://weahome.cn/article/poojsg.html

其他資訊

在線咨詢

微信咨詢

電話咨詢

028-86922220(工作日)

18980820575(7×24)

提交需求

返回頂部