久久国产成人av_抖音国产毛片_a片网站免费观看_A片无码播放手机在线观看,色五月在线观看,亚洲精品m在线观看,女人自慰的免费网址,悠悠在线观看精品视频,一级日本片免费的,亚洲精品久,国产精品成人久久久久久久

分享

Centos 7.2 安裝 Ambari 2.2.2 + HDP 2.4.2 搭建Hadoop集群

 株野 2017-12-29
日期:2016年08月15日 14:25:26 
標簽:hadoop /ambari /hortonworks
來源:http://blog.csdn.net/daiyutage/article/details/52210830


1.安裝環(huán)境說明

安裝前先安裝好 Centos 7.2, jdk-8u91, mysql5.7.13

2.操作系統(tǒng)環(huán)境準備

2.1 配置SSH免密碼登錄

主節(jié)點里root用戶登錄執(zhí)行如下步驟

ssh-keygen
cd ~/.ssh/
cat id_rsa.pub >>authorized_keys
chmod  ~/.ssh
chmod  ~/.ssh/authorized_keys

先在從節(jié)點登錄root執(zhí)行命令

mkdir ~/.ssh/

分發(fā)主節(jié)點里配置好的authorized_keys到各從節(jié)點

scp /root/.ssh/authorized_keys root@172.31.83.172:/root/.ssh/authorized_keys

2.2 創(chuàng)建ambari系統(tǒng)用戶和用戶組

只在主節(jié)點操作

添加ambari安裝、運行用戶和用戶組,,也可以不創(chuàng)建新用戶,,直接使用root或者系統(tǒng)其他賬號

adduser ambari
passwd ambari

2.3 開啟NTP服務

所有集群上節(jié)點都需要操作

Centos 7 命令

yum  install ntp
systemctl is-enabled ntpd
systemctl enable ntpd
systemctl start ntpd

Centos 6 命令

yum install ntpd
chkconfig --list ntpd
chkconfig ntpd 
service ntpd start

2.4 檢查DNS和NSCD

所有節(jié)點都要設置

ambari在安裝時需要配置全域名,所以需要檢查DNS,。為了減輕DNS的負擔, 建議在節(jié)點里用 Name Service Caching Daemon (NSCD)

vi /etc/hosts
172.31.83.171 SY-001 SY-001.hadoop
172.31.83.172 SY-002 SY-002.hadoop
172.31.83.173 SY-003 SY-003.hadoop

每臺節(jié)點里配置FQDN,如下以主節(jié)點為例

vi /etc/sysconfig/network
NETWORKING=yes
HOSTNAME=SY-001.hadoop

2.5 關閉防火墻

所有節(jié)點都要設置

Centos 7 命令

systemctl disable firewalld
systemctl stop firewalld 

Centos 6 命令

chkconfig iptables off
/etc/init.d/iptables stop

2.6 關閉SELinux

所有節(jié)點都要設置

查看SELinux狀態(tài):

sestatus

如果SELinux status參數(shù)為enabled即為開啟狀態(tài) 
SELinux status: enabled

臨時關閉,不用重啟機器:

setenforce 0

修改配置文件需要重啟機器:

vi /etc/sysconfig/selinux
SELINUX=disabled

3.制作本地源

制作本地源只需在主節(jié)點上進行即可

3.1 相關準備工作

3.1.1安裝 Apache HTTP 服務器

安裝HTTP 服務器,,允許 http 服務通過防火墻(永久)

yum install httpd
firewall-cmd --add-service=http 
firewall-cmd --permanent --add-service=http

添加 Apache 服務到系統(tǒng)層使其隨系統(tǒng)自動啟動

systemctl start httpd.service
systemctl enable httpd.service
3.1.2 安裝本地源制作相關工具
yum install yum-utils createrepo

3.2 下載安裝資源

下載 Ambari 2.2.2 , HDP 2.4.2 的安裝資源,本次安裝是在Centos 7 上,只列出centos7的資源,,其他系統(tǒng)的請現(xiàn)在對用系統(tǒng)的資源

Ambari 2.2.2 下載資源

OS Format URL
CentOS 7 Base URL http://public-repo-1./ambari/centos7/2.x/updates/2.2.2.0
CentOS 7 Repo File http://public-repo-1./ambari/centos6/2.x/updates/2.2.2.0/ambari.repo
CentOS 7 Tarball md5 asc http://public-repo-1./ambari/centos7/2.x/updates/2.2.2.0/ambari-2.2.2.0-centos7.tar.gz

HDP 2.4.2 下載資源

OS Repository Name Format URL
CentOS 7 HDP Base URL http://public-repo-1./HDP/centos7/2.x/updates/2.4.2.0
CentOS 7 HDP Repo File http://public-repo-1./HDP/centos7/2.x/updates/2.4.2.0/hdp.repo
CentOS 7 HDP Tarball md5 asc http://public-repo-1./HDP/centos7/2.x/updates/2.4.2.0/HDP-2.4.2.0-centos7-rpm.tar.gz
CentOS 7 HDP-UTILS Base URL http://public-repo-1./HDP-UTILS-1.1.0.20/repos/centos7
CentOS 7 HDP-UTILS Repo File http://public-repo-1./HDP-UTILS-1.1.0.20/repos/centos7/HDP-UTILS-1.1.0.20-centos7.tar.gz

下載上面列表的中的壓縮包,, 
需要下載的壓縮包如下:

Ambari 2.2.2
http://public-repo-1./HDP/centos7/2.x/updates/2.4.0.0/HDP-2.4.0.0-centos7-rpm.tar.gz 
HDP 2.4.2
http://public-repo-1./ambari/centos7/2.x/updates/2.2.2.0/ambari-2.2.2.0-centos7.tar.gz
HDP-UTILS 1.1.0
http://public-repo-1./HDP-UTILS-1.1.0.20/repos/centos7/HDP-UTILS-1.1.0.20-centos7.tar.gz

在httpd網站根目錄,默認是即/var/www/html/,創(chuàng)建目錄ambari,, 
并且將下載的壓縮包解壓到/var/www/html/ambari目錄

cd /var/www/html/
mkdir ambari
cd /var/www/html/ambari/
tar -zxvf ambari-2.2.2.0-centos7.tar.gz
tar -zxvf HDP-2.4.2.0-centos7-rpm.tar.gz
tar -zxvf HDP-UTILS-1.1.0.20-centos7.tar.gz

驗證httd網站是否可用,,可以使用links 命令或者瀏覽器直接訪問下面的地址:

links http://172.31.83.171/ambari/

結果如下: 
image

3.3 配置ambari、HDP,、HDP-UTILS的本地源

首先下載上面資源列表中的相應repo文件,,修改其中的URL為本地的地址,相關配置如下:

ambari.repo

#VERSION_NUMBER=2.2.2.0-460
[Updates-ambari-2.2.2.0]
name=ambari-2.2.2.0 - Updates
baseurl=http://172.31.83.171/ambari/AMBARI-2.2.2.0/centos7/2.2.2.0-460
gpgcheck=1
gpgkey=http://172.31.83.171/ambari/AMBARI-2.2.2.0/centos7/2.2.2.0-460/RPM-GPG-KEY/RPM-GPG-KEY-Jenkins
enabled=1
priority=1

hdp.repo

#VERSION_NUMBER=2.4.2.0-258
[HDP-2.4.2.0]
name=HDP Version - HDP-2.4.2.0
baseurl=http://172.31.83.171/ambari/HDP/centos7/2.x/updates/2.4.2.0
gpgcheck=1
gpgkey=http://172.31.83.171/ambari/HDP/centos7/2.x/updates/2.4.2.0/RPM-GPG-KEY/RPM-GPG-KEY-Jenkins
enabled=1
priority=1

[HDP-UTILS-1.1.0.20]
name=HDP Utils Version - HDP-UTILS-1.1.0.20
baseurl=http://172.31.83.171/ambari/HDP-UTILS-1.1.0.20/repos/centos7
gpgcheck=1
gpgkey=http://172.31.83.171/ambari/HDP/centos7/2.x/updates/2.4.2.0/RPM-GPG-KEY/RPM-GPG-KEY-Jenkins
enabled=1
priority=1

將上面的修改過的源放到/etc/yum.repos.d/下面

yum clean all
yum list update
yum makecache
yum repolist

3.4 安裝Mysql數(shù)據(jù)庫

Ambari安裝會將安裝等信息寫入數(shù)據(jù)庫,,建議使用自己安裝的Mysql數(shù)據(jù)庫,,也可以不安裝而使用默認數(shù)據(jù)庫PostgreSQL

Mysql數(shù)據(jù)庫安裝過程請參考下面文章:

http://blog.csdn.net/lochy/article/details/51721319

安裝完成后創(chuàng)建ambari數(shù)據(jù)庫及用戶,登錄root用戶執(zhí)行下面語句:

create database ambari character set utf8 ;  
CREATE USER 'ambari'@'%'IDENTIFIED BY 'Ambari-123';
GRANT ALL PRIVILEGES ON *.* TO 'ambari'@'%';
FLUSH PRIVILEGES;

如果要安裝Hive,,再創(chuàng)建Hive數(shù)據(jù)庫和用戶 再執(zhí)行下面的語句:

create database hive character set utf8 ;  
CREATE USER 'hive'@'%'IDENTIFIED BY 'Hive-123';
GRANT ALL PRIVILEGES ON *.* TO 'hive'@'%';
FLUSH PRIVILEGES;

如果要安裝Oozie,,再創(chuàng)建Oozie數(shù)據(jù)庫和用戶 再執(zhí)行下面的語句:

create database oozie character set utf8 ;  
CREATE USER 'oozie'@'%'IDENTIFIED BY 'Oozie-123';
GRANT ALL PRIVILEGES ON *.* TO 'oozie'@'%';
FLUSH PRIVILEGES;

安裝mysql jdbc 驅動

yum install mysql-connector-java

3.5 安裝JDK

安裝解壓版JDK,,先到官網下載jdk-8u91-linux-x64.tar.gz 
,再執(zhí)行下面命令:

tar -zxvf jdk-8u91-linux-x64.tar.gz -C /opt/java/
vim /etc/profile
export JAVA_HOME=/opt/java/jdk1.8.0_91
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
PATH=$PATH:$HOME/bin:$JAVA_HOME/bin
source /etc/profile

4.進行安裝Ambari

4.1 安裝Ambari2.2.2

4.1.1安裝Ambari

yum install ambari-server

4.1.2配置Ambari

ambari-server setup

下面是配置執(zhí)行流程,,按照提示操作

1.檢查SELinux是否關閉,,如果關閉不用操作

Using python  /usr/bin/python
Setup ambari-server
Checking SELinux...
SELinux status is 'disabled'

2.提示是否自定義設置。輸入:y

Customize user account for ambari-server daemon [y/n] (n)? y

3.ambari-server 賬號,。輸入:ambari

Enter user account for ambari-server daemon (root):ambari
Adjusting ambari-server permissions and ownership...

4.檢查防火墻,,如果關閉則不用操作

Checking firewall status...
Redirecting to /bin/systemctl status  iptables.service

5.設置JDK。輸入:3

Checking JDK...
Do you want to change Oracle JDK [y/n] (n)? y
[] Oracle JDK 1.8 + Java Cryptography Extension (JCE) Policy Files 8
[] Oracle JDK 1.7 + Java Cryptography Extension (JCE) Policy Files 7
[] Custom JDK
==============================================================================
Enter choice (1): 3

6.如果上面選擇3自定義JDK,則需要設置JAVA_HOME,。輸入:/opt/java/jdk1.8.0_91

WARNING: JDK must be installed on all hosts and JAVA_HOME must be valid on all hosts.
WARNING: JCE Policy files are required for configuring Kerberos security. If you plan to use Kerberos,please make sure JCE Unlimited Strength Jurisdiction Policy Files are valid on all hosts.
Path to JAVA_HOME: /opt/java/jdk1.8.0_91
Validating JDK on Ambari Server...done.
Completing setup...

7.數(shù)據(jù)庫配置,。選擇:y

Configuring database...
Enter advanced database configuration [y/n] (n)? y

8.選擇數(shù)據(jù)庫類型。輸入:3

Configuring database...
==============================================================================
Choose one of the following options:
[1] - PostgreSQL (Embedded)
[2] - Oracle
[3] - MySQL
[4] - PostgreSQL
[5] - Microsoft SQL Server (Tech Preview)
[6] - SQL Anywhere
==============================================================================
Enter choice (3): 3

9.設置數(shù)據(jù)庫的具體配置信息,,根據(jù)實際情況輸入,,如果和括號內相同,則可以直接回車,。

Hostname (localhost): 
Port (): 
Database name (ambari): 
Username (ambari): 
Enter Database Password (Ambari-123): 

10.提示必須安裝MySQL JDBC,,回車結束ambari配置

WARNING: Before starting Ambari Server, you must copy the MySQL JDBC driver JAR file to /usr/share/java.
Press <enter> to continue.

11.將Ambari數(shù)據(jù)庫腳本導入到數(shù)據(jù)庫

如果使用自己定義的數(shù)據(jù)庫,必須在啟動Ambari服務之前導入Ambari的sql腳本

用Ambari用戶(上面設置的用戶)登錄mysql
mysql -u ambari -p
use ambari
source /var/lib/ambari-server/resources/Ambari-DDL-MySQL-CREATE.sql

4.1.3啟動Amabri

執(zhí)行啟動命令,,啟動Ambari服務

ambari-server start

成功啟動后在瀏覽器輸入Ambari地址:

http://sy-001.hadoop:8080/

出現(xiàn)登錄界面,,默認管理員賬戶登錄, 賬戶:admin 密碼:admin

image
登錄成功后出現(xiàn)下面的界面,,至此Ambari的安裝成功 
image

4.2 安裝安裝HDP 2.4.2 配置集群

點擊上面登錄成功頁面的Launch Install Wizard 按鈕進行集群配置

4.2.1設置集群名稱 
image

4.2.2設置HDP 安裝源

選擇HDP2.4 ,并且設置Advanced Repository Options 的信息,,本次使用本地源,所以修改對用系統(tǒng)的安裝源為本地源地址,。

image

4.2.3設置集群機器 
image

4.2.4 Host 確認

確認前面配置集群中hosts列表 中的機器是否都可用,,也可以移除相關機器,集群中機器Success后進行下一步操作,。 
image

4.2.5 選擇要安裝的服務 
image

4.2.6各個服務Master配置 
image

4.2.6 服務的Slaves 和 Clients節(jié)配置 
image

4.2.7 服務的客制化配置 
image

4.2.8 顯示配置信息 
image

4.2.9開始安裝

安裝各個服務,,并且完成安裝后會啟動相關服務,安裝過程比較長,,如果中途出現(xiàn)錯誤,,請根據(jù)具體提示或者log進行操作。 
image

安裝過程可以隨時查看每個節(jié)點的安裝進度及日志 
image
全部安裝成功界面如下 
image

4.2.10安裝完成 
image
image


    本站是提供個人知識管理的網絡存儲空間,,所有內容均由用戶發(fā)布,,不代表本站觀點。請注意甄別內容中的聯(lián)系方式,、誘導購買等信息,,謹防詐騙。如發(fā)現(xiàn)有害或侵權內容,請點擊一鍵舉報,。
    轉藏 分享 獻花(0

    0條評論

    發(fā)表

    請遵守用戶 評論公約

    類似文章 更多