CentOS 6 安装Hadoop 2.6 (三)问题收集
CentOS 6 安裝Hadoop 2.6 (一)準(zhǔn)備工作
CentOS 6 安裝Hadoop 2.6 (二)配置Hadoop
CentOS 6 安裝Hadoop 2.6 (三)問(wèn)題收集
CentOS 6 安裝Hadoop 2.6 (四)運(yùn)行簡(jiǎn)單例子
排查錯(cuò)誤的重要途徑就是檢查日志文件,如果按照上文的配置方法,配置文件在/opt/hadoop-2.6.4/logs/底下,主要需要關(guān)注的是后綴是log的幾個(gè)文件。先檢查你的主節(jié)點(diǎn),再檢查從節(jié)點(diǎn)。
1. 日志中出現(xiàn)XXX連接不上,一直重試
這種情況在從節(jié)點(diǎn)的日志中很常見(jiàn)。
(1) 確認(rèn)hosts文件是否配置正確
以下是筆者的master節(jié)點(diǎn)的hosts文件
127.0.0.1 localhost localhost.localdomain localhost4 localhost4.localdomain4 5.2.5.5 master 5.2.8.5 slave1 5.2.9.7 slave2(2)防火墻是否已經(jīng)關(guān)閉
hadoop啟動(dòng)的時(shí)候,主節(jié)點(diǎn)和從節(jié)點(diǎn)之間通訊會(huì)使用到很多端口,請(qǐng)確保是否已經(jīng)開(kāi)啟這些端口,或者是直接關(guān)閉防火墻。
(3)配置文件配置錯(cuò)誤
配置文件中涉及地址的時(shí)候應(yīng)該都使用主機(jī)名做前綴。
2. 日志中存在諸如localhost、0.0.0.0、127.0.0.1之類的本地地址
如果存在說(shuō)明配置文件配錯(cuò)了,請(qǐng)檢查配置文件。正常的情況應(yīng)該是出現(xiàn)諸如master之類的主機(jī)名或者具體的IP地址(內(nèi)網(wǎng)IP或者外網(wǎng)IP)。
3. 管理網(wǎng)頁(yè)訪問(wèn)不了
(1)檢查啟動(dòng)是否失敗
按照CentOS 6 安裝Hadoop 2.6 (二)配置Hadoop檢查啟動(dòng)后應(yīng)該存在進(jìn)程是否都存在。
各節(jié)點(diǎn)啟動(dòng)日志是否有報(bào)錯(cuò)的地方。
(2)防火墻是否已經(jīng)關(guān)閉
(3)該IP是否能否訪問(wèn)
ping一下該IP是否能通。如果你在外網(wǎng)環(huán)境中,應(yīng)該使用外網(wǎng)IP或者域名進(jìn)行訪問(wèn)。
4.訪問(wèn)hdfs異常
異常代碼如下
16/04/11 06:31:31 INFO hdfs.DFSClient: Exception in createBlockOutputStream java.io.IOException: Bad connect ack with firstBadLink as 4.3.2.5:50010at org.apache.hadoop.hdfs.DFSOutputStream$DataStreamer.createBlockOutputStream(DFSOutputStream.java:1460)at org.apache.hadoop.hdfs.DFSOutputStream$DataStreamer.nextBlockOutputStream(DFSOutputStream.java:1361)at org.apache.hadoop.hdfs.DFSOutputStream$DataStreamer.run(DFSOutputStream.java:588) 16/04/11 06:31:31 INFO hdfs.DFSClient: Abandoning BP-1023463258-127.0.0.1-1460109965114:blk_1073741825_1001 16/04/11 06:31:31 INFO hdfs.DFSClient: Excluding datanode 4.3.2.5:50010原因分析:出現(xiàn)這個(gè)異常,通常是有節(jié)點(diǎn)防火墻沒(méi)關(guān)
使用/etc/init.d/iptables status(CentOS)檢查各個(gè)節(jié)點(diǎn)的防火墻狀態(tài),再使用/etc/init.d/iptables stop關(guān)閉打開(kāi)的防火墻。
總結(jié)
以上是生活随笔為你收集整理的CentOS 6 安装Hadoop 2.6 (三)问题收集的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: CentOS 6 安装Hadoop 2.
- 下一篇: CentOS 6 安装Hadoop 2.