在裝spark之前先裝Scala Scala 的安裝在hadoop安裝配置中已經(jīng)介紹了
目前成都創(chuàng)新互聯(lián)公司已為1000多家的企業(yè)提供了網(wǎng)站建設(shè)、域名、虛擬空間、成都網(wǎng)站托管、企業(yè)網(wǎng)站設(shè)計、上高網(wǎng)站維護等服務(wù),公司將堅持客戶導向、應(yīng)用為本的策略,正道將秉承"和諧、參與、激情"的文化,與客戶和合作伙伴齊心協(xié)力一起成長,共同發(fā)展。
1、下載spark安裝包 下載地址如下
http://spark.apache.org/downloads.html
我選擇的是
spark-1.4.1-bin-hadoop2.6.tgz 放在/root/software
解壓
tar zxvf spark-1.4.1-bin-hadoop2.6.tgz
2、配置系統(tǒng)環(huán)境變量
vim /etc/profile
export SPARK_HOME=/root/sherry/spark-1.4.1
export PATH=$SPARK_HOME/bin:$PATH
source /etc/profile
3、配置spark文件
1)[root@HBMS-DKXD-DEV sherry]# cd spark-1.4.1-bin-hadoop2.6/
[root@HBMS-DKXD-DEV spark-1.4.1-bin-hadoop2.6]# cd conf
[root@HBMS-DKXD-DEV conf]# vim spark-env.sh
添加如下內(nèi)容
export SCALA_HOME=/root/sherry/scala-2.10.4
export JAVA_HOME=/usr/java/jdk1.7.0_45
export SPARK_WORKER_MEMORY=1g
export SPARK_MASTER_IP=10.118.46.22
2)配置slave
我自己沒有配置
4、啟動集群
[root@HBMS-DKXD-DEV spark-1.4.1-bin-hadoop2.6]# ./sbin/start-all.sh
關(guān)閉
[root@HBMS-DKXD-DEV spark-1.4.1-bin-hadoop2.6]# ./sbin/stop-all.sh
檢查是否安裝成功
jps