Hadoop学习之以伪分布模式部署Hadoop及常见问题
生活随笔
收集整理的這篇文章主要介紹了
Hadoop学习之以伪分布模式部署Hadoop及常见问题
小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.
Hadoop既可以以單機模式運行,也可以以偽分布模式運行,這兩種模式都是為了使用者方便學習和調試Hadoop,要想發(fā)揮Hadoop分布式、并行處理的優(yōu)勢,還須以分布式模式來部署運行Hadoop。單機模式是指Hadoop在單個節(jié)點上以單個進程的方式運行,偽分布模式是指在單個節(jié)點上運行NameNode、DataNode、JobTracker、TaskTracker、SeconderyNameNode5個進程,而分布式模式是指在不同節(jié)點上分別運行上述5個進程中的某幾個,比如在某個節(jié)點上運行DataNode和TaskTracker。
偽分布模式和分布式模式除了上述的不同之處外,在配置上偽分布模式要簡單的多,只需要修改core-site.xml、hdfs-site.xml、mapred-site.xml即可,而分布式模式則還需要配置masters和slaves等文件。在管理上,顯然偽分布模式也要簡單很多,畢竟只有一個節(jié)點,而分布式模式則至少存在兩個節(jié)點,當節(jié)點數(shù)量很多時,Hadoop的復雜性也會相應的提高。
這篇文章主要介紹了以為分布式模式部署和運行Hadoop的一些細節(jié)及出現(xiàn)的問題,部署單節(jié)點的Hadoop相對容易些,但總是會出現(xiàn)這樣那樣的問題。首先按照官方文檔的說明對core-site.xml、hdfs-site.xml、mapred-site.xml做相應的修改,具體的url為http://hadoop.apache.org/docs/r1.2.1/single_node_setup.html#PseudoDistributed。因為之前曾經學過Hadoop,所以在修改配置文件時不是完全按照
總結
以上是生活随笔為你收集整理的Hadoop学习之以伪分布模式部署Hadoop及常见问题的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Hadoop学习之以全分布模式部署及问题
- 下一篇: Hadoop学习之HDFS架构(一)