日期:2016年08月15日 14:25:26 標簽:hadoop /ambari /hortonworks
來源:http://blog.csdn.net/daiyutage/article/details/52210830
1.安裝環(huán)境說明
安裝前先安裝好 Centos 7.2, jdk-8u91, mysql5.7.13
2.操作系統(tǒng)環(huán)境準備
2.1 配置SSH免密碼登錄
主節(jié)點里root用戶登錄執(zhí)行如下步驟
ssh-keygen
cd ~/.ssh/
cat id_rsa.pub >>authorized_keys
chmod ~/.ssh
chmod ~/.ssh/authorized_keys
先在從節(jié)點登錄root執(zhí)行命令
mkdir ~/.ssh/
分發(fā)主節(jié)點里配置好的authorized_keys到各從節(jié)點
scp /root/.ssh/authorized_keys root@172.31.83.172:/root/.ssh/authorized_keys
2.2 創(chuàng)建ambari系統(tǒng)用戶和用戶組
只在主節(jié)點操作
添加ambari安裝、運行用戶和用戶組,,也可以不創(chuàng)建新用戶,,直接使用root或者系統(tǒng)其他賬號
adduser ambari
passwd ambari
2.3 開啟NTP服務
所有集群上節(jié)點都需要操作
Centos 7 命令
yum install ntp
systemctl is-enabled ntpd
systemctl enable ntpd
systemctl start ntpd
Centos 6 命令
yum install ntpd
chkconfig --list ntpd
chkconfig ntpd
service ntpd start
2.4 檢查DNS和NSCD
所有節(jié)點都要設置
ambari在安裝時需要配置全域名,所以需要檢查DNS,。為了減輕DNS的負擔, 建議在節(jié)點里用 Name Service Caching Daemon (NSCD)
vi /etc/hosts
172.31.83.171 SY-001 SY-001.hadoop
172.31.83.172 SY-002 SY-002.hadoop
172.31.83.173 SY-003 SY-003.hadoop
每臺節(jié)點里配置FQDN,如下以主節(jié)點為例
vi /etc/sysconfig/network
NETWORKING=yes
HOSTNAME=SY-001.hadoop
2.5 關閉防火墻
所有節(jié)點都要設置
Centos 7 命令
systemctl disable firewalld
systemctl stop firewalld
Centos 6 命令
chkconfig iptables off
/etc/init.d/iptables stop
2.6 關閉SELinux
所有節(jié)點都要設置
查看SELinux狀態(tài):
sestatus
如果SELinux status參數(shù)為enabled即為開啟狀態(tài)
SELinux status: enabled
臨時關閉,不用重啟機器:
setenforce 0
修改配置文件需要重啟機器:
vi /etc/sysconfig/selinux
SELINUX=disabled
3.制作本地源
制作本地源只需在主節(jié)點上進行即可
3.1 相關準備工作
3.1.1安裝 Apache HTTP 服務器
安裝HTTP 服務器,,允許 http 服務通過防火墻(永久)
yum install httpd
firewall-cmd --add-service=http
firewall-cmd --permanent --add-service=http
添加 Apache 服務到系統(tǒng)層使其隨系統(tǒng)自動啟動
systemctl start httpd.service
systemctl enable httpd.service
3.1.2 安裝本地源制作相關工具
yum install yum-utils createrepo
3.2 下載安裝資源
下載 Ambari 2.2.2 , HDP 2.4.2 的安裝資源,本次安裝是在Centos 7 上,只列出centos7的資源,,其他系統(tǒng)的請現(xiàn)在對用系統(tǒng)的資源
Ambari 2.2.2 下載資源
HDP 2.4.2 下載資源
下載上面列表的中的壓縮包,,
需要下載的壓縮包如下:
Ambari 2.2.2
http://public-repo-1./HDP/centos7/2.x/updates/2.4.0.0/HDP-2.4.0.0-centos7-rpm.tar.gz
HDP 2.4.2
http://public-repo-1./ambari/centos7/2.x/updates/2.2.2.0/ambari-2.2.2.0-centos7.tar.gz
HDP-UTILS 1.1.0
http://public-repo-1./HDP-UTILS-1.1.0.20/repos/centos7/HDP-UTILS-1.1.0.20-centos7.tar.gz
在httpd網站根目錄,默認是即/var/www/html/,創(chuàng)建目錄ambari,,
并且將下載的壓縮包解壓到/var/www/html/ambari目錄
cd /var/www/html/
mkdir ambari
cd /var/www/html/ambari/
tar -zxvf ambari-2.2.2.0-centos7.tar.gz
tar -zxvf HDP-2.4.2.0-centos7-rpm.tar.gz
tar -zxvf HDP-UTILS-1.1.0.20-centos7.tar.gz
驗證httd網站是否可用,,可以使用links 命令或者瀏覽器直接訪問下面的地址:
links http://172.31.83.171/ambari/
結果如下:
3.3 配置ambari、HDP,、HDP-UTILS的本地源
首先下載上面資源列表中的相應repo文件,,修改其中的URL為本地的地址,相關配置如下:
ambari.repo
#VERSION_NUMBER=2.2.2.0-460
[Updates-ambari-2.2.2.0]
name=ambari-2.2.2.0 - Updates
baseurl=http://172.31.83.171/ambari/AMBARI-2.2.2.0/centos7/2.2.2.0-460
gpgcheck=1
gpgkey=http://172.31.83.171/ambari/AMBARI-2.2.2.0/centos7/2.2.2.0-460/RPM-GPG-KEY/RPM-GPG-KEY-Jenkins
enabled=1
priority=1
hdp.repo
#VERSION_NUMBER=2.4.2.0-258
[HDP-2.4.2.0]
name=HDP Version - HDP-2.4.2.0
baseurl=http://172.31.83.171/ambari/HDP/centos7/2.x/updates/2.4.2.0
gpgcheck=1
gpgkey=http://172.31.83.171/ambari/HDP/centos7/2.x/updates/2.4.2.0/RPM-GPG-KEY/RPM-GPG-KEY-Jenkins
enabled=1
priority=1
[HDP-UTILS-1.1.0.20]
name=HDP Utils Version - HDP-UTILS-1.1.0.20
baseurl=http://172.31.83.171/ambari/HDP-UTILS-1.1.0.20/repos/centos7
gpgcheck=1
gpgkey=http://172.31.83.171/ambari/HDP/centos7/2.x/updates/2.4.2.0/RPM-GPG-KEY/RPM-GPG-KEY-Jenkins
enabled=1
priority=1
將上面的修改過的源放到/etc/yum.repos.d/下面
yum clean all
yum list update
yum makecache
yum repolist
3.4 安裝Mysql數(shù)據(jù)庫
Ambari安裝會將安裝等信息寫入數(shù)據(jù)庫,,建議使用自己安裝的Mysql數(shù)據(jù)庫,,也可以不安裝而使用默認數(shù)據(jù)庫PostgreSQL
Mysql數(shù)據(jù)庫安裝過程請參考下面文章:
http://blog.csdn.net/lochy/article/details/51721319
安裝完成后創(chuàng)建ambari數(shù)據(jù)庫及用戶,登錄root用戶執(zhí)行下面語句:
create database ambari character set utf8 ;
CREATE USER 'ambari'@'%'IDENTIFIED BY 'Ambari-123';
GRANT ALL PRIVILEGES ON *.* TO 'ambari'@'%';
FLUSH PRIVILEGES;
如果要安裝Hive,,再創(chuàng)建Hive數(shù)據(jù)庫和用戶 再執(zhí)行下面的語句:
create database hive character set utf8 ;
CREATE USER 'hive'@'%'IDENTIFIED BY 'Hive-123';
GRANT ALL PRIVILEGES ON *.* TO 'hive'@'%';
FLUSH PRIVILEGES;
如果要安裝Oozie,,再創(chuàng)建Oozie數(shù)據(jù)庫和用戶 再執(zhí)行下面的語句:
create database oozie character set utf8 ;
CREATE USER 'oozie'@'%'IDENTIFIED BY 'Oozie-123';
GRANT ALL PRIVILEGES ON *.* TO 'oozie'@'%';
FLUSH PRIVILEGES;
安裝mysql jdbc 驅動
yum install mysql-connector-java
3.5 安裝JDK
安裝解壓版JDK,,先到官網下載jdk-8u91-linux-x64.tar.gz
,再執(zhí)行下面命令:
tar -zxvf jdk-8u91-linux-x64.tar.gz -C /opt/java/
vim /etc/profile
export JAVA_HOME=/opt/java/jdk1.8.0_91
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
PATH=$PATH:$HOME/bin:$JAVA_HOME/bin
source /etc/profile
4.進行安裝Ambari
4.1 安裝Ambari2.2.2
4.1.1安裝Ambari
yum install ambari-server
4.1.2配置Ambari
ambari-server setup
下面是配置執(zhí)行流程,,按照提示操作
1.檢查SELinux是否關閉,,如果關閉不用操作
Using python /usr/bin/python
Setup ambari-server
Checking SELinux...
SELinux status is 'disabled'
2.提示是否自定義設置。輸入:y
Customize user account for ambari-server daemon [y/n] (n)? y
3.ambari-server 賬號,。輸入:ambari
Enter user account for ambari-server daemon (root):ambari
Adjusting ambari-server permissions and ownership...
4.檢查防火墻,,如果關閉則不用操作
Checking firewall status...
Redirecting to /bin/systemctl status iptables.service
5.設置JDK。輸入:3
Checking JDK...
Do you want to change Oracle JDK [y/n] (n)? y
[] Oracle JDK 1.8 + Java Cryptography Extension (JCE) Policy Files 8
[] Oracle JDK 1.7 + Java Cryptography Extension (JCE) Policy Files 7
[] Custom JDK
==============================================================================
Enter choice (1): 3
6.如果上面選擇3自定義JDK,則需要設置JAVA_HOME,。輸入:/opt/java/jdk1.8.0_91
WARNING: JDK must be installed on all hosts and JAVA_HOME must be valid on all hosts.
WARNING: JCE Policy files are required for configuring Kerberos security. If you plan to use Kerberos,please make sure JCE Unlimited Strength Jurisdiction Policy Files are valid on all hosts.
Path to JAVA_HOME: /opt/java/jdk1.8.0_91
Validating JDK on Ambari Server...done.
Completing setup...
7.數(shù)據(jù)庫配置,。選擇:y
Configuring database...
Enter advanced database configuration [y/n] (n)? y
8.選擇數(shù)據(jù)庫類型。輸入:3
Configuring database...
==============================================================================
Choose one of the following options:
[1] - PostgreSQL (Embedded)
[2] - Oracle
[3] - MySQL
[4] - PostgreSQL
[5] - Microsoft SQL Server (Tech Preview)
[6] - SQL Anywhere
==============================================================================
Enter choice (3): 3
9.設置數(shù)據(jù)庫的具體配置信息,,根據(jù)實際情況輸入,,如果和括號內相同,則可以直接回車,。
Hostname (localhost):
Port ():
Database name (ambari):
Username (ambari):
Enter Database Password (Ambari-123):
10.提示必須安裝MySQL JDBC,,回車結束ambari配置
WARNING: Before starting Ambari Server, you must copy the MySQL JDBC driver JAR file to /usr/share/java.
Press <enter> to continue.
11.將Ambari數(shù)據(jù)庫腳本導入到數(shù)據(jù)庫
如果使用自己定義的數(shù)據(jù)庫,必須在啟動Ambari服務之前導入Ambari的sql腳本
用Ambari用戶(上面設置的用戶)登錄mysql
mysql -u ambari -p
use ambari
source /var/lib/ambari-server/resources/Ambari-DDL-MySQL-CREATE.sql
4.1.3啟動Amabri
執(zhí)行啟動命令,,啟動Ambari服務
ambari-server start
成功啟動后在瀏覽器輸入Ambari地址:
http://sy-001.hadoop:8080/
出現(xiàn)登錄界面,,默認管理員賬戶登錄, 賬戶:admin 密碼:admin
登錄成功后出現(xiàn)下面的界面,,至此Ambari的安裝成功
4.2 安裝安裝HDP 2.4.2 配置集群
點擊上面登錄成功頁面的Launch Install Wizard 按鈕進行集群配置
4.2.1設置集群名稱
4.2.2設置HDP 安裝源
選擇HDP2.4 ,并且設置Advanced Repository Options 的信息,,本次使用本地源,所以修改對用系統(tǒng)的安裝源為本地源地址,。
4.2.3設置集群機器
4.2.4 Host 確認
確認前面配置集群中hosts列表 中的機器是否都可用,,也可以移除相關機器,集群中機器Success后進行下一步操作,。
4.2.5 選擇要安裝的服務
4.2.6各個服務Master配置
4.2.6 服務的Slaves 和 Clients節(jié)配置
4.2.7 服務的客制化配置
4.2.8 顯示配置信息
4.2.9開始安裝
安裝各個服務,,并且完成安裝后會啟動相關服務,安裝過程比較長,,如果中途出現(xiàn)錯誤,,請根據(jù)具體提示或者log進行操作。
安裝過程可以隨時查看每個節(jié)點的安裝進度及日志
全部安裝成功界面如下
4.2.10安裝完成