運行Spark例子程序是怎樣實現(xiàn)的,針對這個問題,這篇文章詳細(xì)介紹了相對應(yīng)的分析和解答,希望可以幫助更多想解決這個問題的小伙伴找到更簡單易行的方法。
專注于為中小企業(yè)提供成都網(wǎng)站制作、網(wǎng)站建設(shè)服務(wù),電腦端+手機端+微信端的三站合一,更高效的管理,為中小企業(yè)月湖免費做網(wǎng)站提供優(yōu)質(zhì)的服務(wù)。我們立足成都,凝聚了一批互聯(lián)網(wǎng)行業(yè)人才,有力地推動了近1000家企業(yè)的穩(wěn)健成長,幫助中小企業(yè)通過網(wǎng)站建設(shè)實現(xiàn)規(guī)模擴充和轉(zhuǎn)變。
下載并解壓Spark到指定目錄,如果沒有安裝JDK、Scala,需要先下載JDK、Scala到指定目錄,并設(shè)置SPKARK_HOME(JAVA_HOME、SCALA_HOME).
如果只是在單節(jié)點上運行Spark,無需啟動Spark,直接按『三、運行例子程序』運行即可。 如若需要在集群上運行Spark例子程序,需要先啟動Spark集群。將已經(jīng)可以互相無密碼登陸的從節(jié)點名(或IP地址)加入到主節(jié)點的conf/slaves文件中,再將配置好的主節(jié)點的Spark的整個目錄拷貝到其他所有從節(jié)點。在直接運行啟動集群腳本:
./start-all.sh # 關(guān)閉集群 ./stop-all.sh
在單個節(jié)點上運行例子無需啟動集群:
./bin/run-example SparkPi 10 ./bin/run-example graphx.LiveJournalPageRank follower.txt --numEPart=2 # 運行Python的例子程序 ./bin/spark-submit examples/src/main/python/pi.py 10 ./bin/spark-submit examples/src/main/python/PageRank.py follower.txt 10
./bin/spark-submit --master spark://A281:7077 --class org.apache.spark.examples.graphx.LiveJournalPageRank lib/spark-examples-1.6.0-hadoop2.6.0.jar followers.txt --numEPart=2
關(guān)于運行Spark例子程序是怎樣實現(xiàn)的問題的解答就分享到這里了,希望以上內(nèi)容可以對大家有一定的幫助,如果你還有很多疑惑沒有解開,可以關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道了解更多相關(guān)知識。