cdh 安装_CDH的介绍和部署
CDH:全稱Cloudera’s Distribution Including Apache Hadoop。
CDH版本衍化
hadoop是一個開源項目,所以很多公司在這個基礎進行商業化,Cloudera對hadoop做了相應的改變。Cloudera公司的發行版,我們將該版本稱為CDH(Cloudera Distribution Hadoop)。
Apache Hadoop 不足之處:
版本管理混亂 部署過程繁瑣、升級過程復雜 兼容性差 安全性低Hadoop 發行版:
Apache Hadoop Cloudera’s Distribution Including Apache Hadoop(CDH) Hortonworks Data Platform (HDP) MapR EMRCloudera's Distribution, including Apache Hadoop(CDH):
是Hadoop眾多分支中的一種,由Cloudera維護,基于穩定版本的Apache Hadoop構建 提供了Hadoop的核心 可擴展存儲 分布式計算 基于Web的用戶界面CDH的優點:
版本劃分清晰 版本更新速度快 支持Kerberos安全認證 文檔清晰 支持多種安裝方式(Cloudera Manager方式)安裝方式有:
Cloudera Manager Yum Rpm Tarball網址:
CDH5.4 http://archive.cloudera.com/cdh5/Cloudera Manager5.4.3: http://www.cloudera.com/downloads/manager/5-4-3.html安裝:
首先準備三臺虛擬機:
這給出的內存已經很少了,因為只是模擬,在公司里面,都是物理,內存都是64以上的。。 還有: 首先得在你安裝的磁盤中空閑出最少50g的內存,如:我現在三臺虛擬機什么都沒裝,也沒啟動,先啟動,它會先開辟預存12g占位,這還算少的了。。。。啟動后配置好靜態IP,這個以前的文章有,然后開始SSH免密鑰登錄。 三臺虛擬機,先把ssh給打理出來。然后在node07上自己免密自己,在08上免密07. 最后拷貝公鑰文件到06和08: scp authorized_keys node06:`pwd`然后配置好后安裝JDK:
https://www.cnblogs.com/underwing/p/linux-an-zhuang-rpm-dejdk.html然后記得對上ntp時間。
在安裝mysql:
安裝完成之后啟動:
復制剛才那個路徑;設置密碼
GRANT ALL PRIVILEGES ON *.* TO 'root'@'%' IDENTIFIED BY 'root' WITH GRANT OPTION;之后三臺虛擬機的~下執行命令:
yum install -y chkconfig python bind-utils psmisc libxsltzlib sqlite cyrus-sasl-plain cyrus-sasl-gssapi fuse fuse-libs redhat-lsb安裝Cloudera Manager Server、Agent
所有節點創建:
然后上傳文件:
文件:
鏈接:https://pan.baidu.com/s/19KSjEflWqYuDKN13ZVbklA
提取碼:wm3b
上傳后解壓:
解壓后:
之后給所有節點創建用戶:
useradd --system --no-create-home --shell=/bin/false --comment "Cloudera SCM User" cloudera-scm創建Parcel目錄,Server節點(node06):
mkdir -p /opt/cloudera/parcel-repo
chown cloudera-scm:cloudera-scm /opt/cloudera/parcel-repo
Agent節點(所有節點):
mkdir -p /opt/cloudera/parcels
chown cloudera-scm:cloudera-scm /opt/cloudera/parcels
配置CM Server數據庫:
拷貝mysql jar文件到目錄 /usr/share/java/(沒有就創建)
導入mysql,注意jar包名稱要修改為mysql-connector-java.jar
連接mysql,創建一個用戶:
grant all on *.* to 'temp'@'%' identified by 'temp' with grant option;cd /opt/cloudera-manager/cm-5.4.3/share/cmf/schema/./scm_prepare_database.sh mysql temp -h node06 -utemp -ptemp --scm-host node06 scm scm scm啟動CM Server、Agent:
cd /opt/cloudera-manager/cm-5.4.3/etc/init.d/
./cloudera-scm-server start
Sever首次啟動會自動創建表以及數據,不要立即關閉或重啟,否則需要刪除所有表及數據重新安裝
然后在所有節點上啟動agent:
./cloudera-scm-agent start
格式:數據庫類型、數據庫、數據庫服務器、用戶名、密碼、cm server服務器
啟動時間,短至幾分鐘,長至十幾二十分鐘,看電腦配置而定
出現這個端口代表你可以訪問了,
然后就可以安裝你想要安裝的了,
模擬的話我們就只安裝幾個就好了,我內存也不大,就16g,上面很多都直接能把我安蹦的
這是根據你節點分配的,沒什么要改的(在公司不一樣),一直繼續,
如果其中失敗了,就去診斷看原因,去首頁,找到安裝那個配置,去看下。
總結
以上是生活随笔為你收集整理的cdh 安装_CDH的介绍和部署的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: python 动态_python实现动态
- 下一篇: python笔记 真实_Python笔记