久久国产成人av_抖音国产毛片_a片网站免费观看_A片无码播放手机在线观看,色五月在线观看,亚洲精品m在线观看,女人自慰的免费网址,悠悠在线观看精品视频,一级日本片免费的,亚洲精品久,国产精品成人久久久久久久

分享

Spark安裝(單機版)

 余香閣 2021-05-27

1 下載安裝

官網(wǎng)下載

選擇版本和type,,這里為 spark-2.4.4-bin-without-hadoop.tgz

1.1 命令下載:

cd ~/softwarewget http://apache.communilink.net/spark/spark-2.4.4/spark-2.4.4-bin-without-hadoop.tgz

1.2 解壓重命名:

tar -xzvf spark-2.4.4-bin-without-hadoop.tgzmv spark-2.4.4-bin-without-hadoop.tgz spark

1.3 配置環(huán)境變量:

使用vim編輯~/.bashrc文件,加入以下配置(目錄換成自己的安裝目錄):
export SPARK_HOME=/software/spark export PATH=$PATH:$SPARK_HOME/bin
使用source命令使配置生效:source ~/.bashrc
可以使用echo $PATH 輸出查看是否正確

 2 簡單配置

2.1 安裝scala并配置環(huán)境變量:

2.2 配置spark-env.sh:

位置:$SPARK_HOME/conf/spark-env.sh.template

命令:

cd /software/spark/conf# 復制并重命名cp spark-env.sh.template spark-env.shvim spark-env.sh

配置:

# hadoop java scala等須安裝好并配置好 環(huán)境變量export JAVA_HOME=/usr/local/java/jdk1.8export SCALA_HOME=/software/scalaexport SPARK_HOME=/software/spark# 單機版配置為本機 ipexport SPARK_MASTER_IP=127.0.0.1export SPARK_EXECUTOR_MEMORY=1Gexport SPARK_DIST_CLASSPATH=$(hadoop classpath)

2.3 配置slaves:

文件位置:$SPARK_HOME/conf/slaves.template

命令:

cd /software/spark/conf# 復制并重命名cp slaves.template slavesvim slaves

配置:

localhost

2.4 執(zhí)行示例程序:

在 $SPARK_HOME/examples/src/main 目錄下有一些 Spark 的示例程序,,有 Scala、Java,、Python,、R 等語言的版本。我們可以先運行一個示例程序 SparkPi(即計算 π 的近似值),,執(zhí)行如下命令:

[root@VM_0_8_centos spark]# ./bin/run-example SparkPi 2>&1 | grep "Pi is roughly"Pi is roughly 3.1369756848784243[root@VM_0_8_centos spark]#

注:執(zhí)行時會輸出非常多的運行信息,,輸出結(jié)果不容易找到,可以通過 grep 命令進行過濾(命令中的 2>&1 可以將所有的信息都輸出到 stdout 中,,否則由于輸出日志的性質(zhì),,還是會輸出到屏幕中)

2.5 執(zhí)行示例程序:

# 啟動shellspark-shell
# 關(guān)閉ctrl+d

 Tips:常見錯誤

https://www.cnblogs.com/qifengle-2446/p/6424377.html

    轉(zhuǎn)藏 分享 獻花(0

    0條評論

    發(fā)表

    請遵守用戶 評論公約

    類似文章 更多