實際開發(fā)過程中遇到了需要實現(xiàn)選擇性聚合的場景，即對于某一個key對應的數(shù)據(jù)，將滿足條件的記錄進行聚合，不滿足條件的則不進行聚合。

創(chuàng)新互聯(lián)建站-專業(yè)網(wǎng)站定制、快速模板網(wǎng)站建設、高性價比松陽網(wǎng)站開發(fā)、企業(yè)建站全套包干低至880元,成熟完善的模板庫,直接使用。一站式松陽網(wǎng)站制作公司更省心,省錢,快速模板網(wǎng)站建設找我們，業(yè)務覆蓋松陽地區(qū)。費用合理售后完善，10多年實體公司更值得信賴。

使用spark處理這種計算場景時，想到了使用combineByKey算子，先將輸入數(shù)據(jù)中的value映射成含一個元素的ArrayBuffer（scala中相當于java中的ArrayList），然后在聚合時對滿足聚合條件的記錄聚合后覆蓋這一個ArrayBuffer，不滿足條件的待聚合的兩條記錄都填入ArrayBuffer。最后調(diào)用flatMap將ArrayBuffer中的元素分拆。

比如下面的代碼實現(xiàn)了對某個字段聚合時，按照時間條件進行選擇性的聚合：

val rdd1 = sc.textFile(dayDayDir).union(sc.textFile(thisDayDir))

    .map(line => line.split("\\|"))

    .filter(arr => if(arr.length != 14 || !arr(3).substring(0, 8).equals(lastDay)) false else true)

    .map(arr => (arr(0), arr))

    .reduceByKey( (pure, after) => reduceSession(pure, after))

    .map(tup => (tup._2(13), tup._2))

    .combineByKey( x => ArrayBuffer(x),

    (x:ArrayBuffer[Array[String]],y) => combineMergeValue(x, y),

    (x:ArrayBuffer[Array[String]],y:ArrayBuffer[Array[String]]) => combineMergeCombiners(x, y))

    .flatMap(tup => arrToStr(tup._2))

def combineMergeValue(x:ArrayBuffer[Array[String]], y:Array[String])

                    : ArrayBuffer[Array[String]] = {

    var outList = x.clone()

    var outarr = y.clone()

    var flag = true

    for(i <- 0 until outList.length){

        if(checkTime(outList(i)(3), outList(i)(4), y(3), y(4))) {

            outarr = reduceSession(outList(i), y)

            outList(i) = outarr

            flag = false

        }

    }

    if(flag) {

        outList += y

    }

    outList

}

def combineMergeCombiners(x:ArrayBuffer[Array[String]], y:ArrayBuffer[Array[String]])

                : ArrayBuffer[Array[String]] = {

    var outList = x.clone();

    for(i <- 0 until y.length){

    var outarr = y(i).clone()

    var flag = true

    for(j <- 0 until outList.length){

        if(checkTime(outList(j)(3), outList(j)(4), y(i)(3), y(i)(4))) {

            outarr = reduceSession(outList(j), y(i))

            outList(j) = outarr

            flag = false

        }

    }

    if(flag) {

        outList += y(i)

    }

    }

    outList

}

另外有需要云服務器可以了解下創(chuàng)新互聯(lián)scvps.cn，海內(nèi)外云服務器15元起步，三天無理由+7*72小時售后在線，公司持有idc許可證，提供“云服務器、裸金屬服務器、高防服務器、香港服務器、美國服務器、虛擬主機、免備案服務器”等云主機租用服務以及企業(yè)上云的綜合解決方案，具有“安全穩(wěn)定、簡單易用、服務可用性高、性價比高”等特點與優(yōu)勢，專為企業(yè)上云打造定制，能夠滿足用戶豐富、多元化的應用場景需求。

當前文章：spark通過combineByKey算子實現(xiàn)條件性聚合的方法-創(chuàng)新互聯(lián)
網(wǎng)站URL：http://weahome.cn/article/cospic.html