【大数据技术】操作系统和Hadoop版本选择
1.操作系統(tǒng)選擇
Hadoop產(chǎn)品是由Java語(yǔ)言開(kāi)發(fā)的,所以推薦的是Linux操作系統(tǒng),理由很簡(jiǎn)單開(kāi)源免費(fèi),推薦的操作系統(tǒng)CentOS。
- CentOS是一個(gè)基于Red Hat?企業(yè)級(jí) Linux?提供的可自由使用的源代碼企業(yè)級(jí)的 Linux 發(fā)行版本。
- CentOS兩年發(fā)行一次新版本,每個(gè)版本都會(huì)獲得7年的支持(通過(guò)安全更新方式),大概6個(gè)月更新一次小版本,以便支持新的硬件。
- CentOS獨(dú)有的yum命令支持在線升級(jí),可以即時(shí)更新系統(tǒng),完全免費(fèi)。
2.Hadoop版本
不收費(fèi)的Hadoop版本主要有國(guó)外的四個(gè),分別是Apache基金會(huì)hadoop、Cloudera版本(CDH)、Hortonworks版本(HDP)、MapR版本。對(duì)于國(guó)內(nèi)而言,絕大多數(shù)選擇CDH版本。
- Apache社區(qū)版本:最原始的版本,所有發(fā)行版均基于這個(gè)版本進(jìn)行改進(jìn)
- Cloudera版本:Cloudera’s Distribution Including Apache Hadoop,簡(jiǎn)稱CDH
- Hortonworks版本:Hortonworks Data Platform,簡(jiǎn)稱“HDP”
- MapReduce版本
(1)Hortonworks
主打產(chǎn)品是Hortonworks Data Platform (HDP),也同樣是100%開(kāi)源的產(chǎn)品,HDP除了常見(jiàn)的項(xiàng)目外還包含了Ambari,一款開(kāi)源的安裝和管理系統(tǒng)。HCatalog,一個(gè)元數(shù)據(jù)管理系統(tǒng)。
?
?
(2)Cloudera
最成型的發(fā)行版本,擁有最多的部署案例。提供強(qiáng)大的部署、管理和監(jiān)控工具。Cloudera開(kāi)發(fā)并貢獻(xiàn)了可實(shí)時(shí)處理大數(shù)據(jù)的Impala項(xiàng)目。
?
(3)MapR
為了獲取更好的性能和易用性而支持本地Unix文件系統(tǒng)而不是HDFS(使用非開(kāi)源的組件),可以使用本地Unix命令來(lái)代替Hadoop命令。MapR還憑借諸如快照、鏡像或有狀態(tài)的故障恢復(fù)之類(lèi)的高可用性特性來(lái)與其他競(jìng)爭(zhēng)者相區(qū)別。
?
3.選擇決定
當(dāng)我們決定是否采用某個(gè)軟件用于開(kāi)源環(huán)境時(shí),通常需要考慮以下幾個(gè)因素:
(1)是否為開(kāi)源軟件,即是否免費(fèi)。
(2)是否有穩(wěn)定版,這個(gè)一般軟件官方網(wǎng)站會(huì)給出說(shuō)明。
(3)是否經(jīng)實(shí)踐驗(yàn)證,這個(gè)可通過(guò)檢查是否有一些大點(diǎn)的公司已經(jīng)在生產(chǎn)環(huán)境中使用知道。
(4)是否有強(qiáng)大的社區(qū)支持,當(dāng)出現(xiàn)一個(gè)問(wèn)題時(shí),能夠通過(guò)社區(qū)、論壇等網(wǎng)絡(luò)資源快速獲取解決方法。
考慮到大數(shù)據(jù)平臺(tái)高效的部署和安裝,中心化的配置管理,使用過(guò)程中的穩(wěn)定性、兼容性、擴(kuò)展性,以及未來(lái)較為簡(jiǎn)單、高效的運(yùn)維,遇到問(wèn)題低廉的解決成本。建議使用第三方發(fā)行版本,其中在第三發(fā)發(fā)行版中,國(guó)內(nèi)應(yīng)用較多的是Cloudera的CDH。
?
?
參考文檔:
大數(shù)據(jù)系列(1)——Hadoop集群壞境搭建配置
初學(xué)者有關(guān)Hadoop版本選擇的考慮
轉(zhuǎn)載于:https://www.cnblogs.com/badboy200800/p/10008791.html
總結(jié)
以上是生活随笔為你收集整理的【大数据技术】操作系统和Hadoop版本选择的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: Oracle EBS PO 接受入库
- 下一篇: [Xcode 实际操作]四、常用控件-(