在ubuntu下使用Eclipse搭建Hadoop开发环境
一、安裝準(zhǔn)備
1、JDK版本:jdk1.7.0(jdk-7-linux-i586.tar.gz)
2、hadoop版本:hadoop-1.1.1(hadoop-1.1.1.tar.gz)
3、eclipse版本:Eclipse Java EE IDE for Web Developers.
??Version: Juno Service Release 1
??Build id: 20120920-0800(eclipse-jee-juno-SR1-linux-gtk.tar.gz)
4、eclipse與hadoop集成插件:hadoop-eclipse-plugin-1.1.1.jar
5、操作系統(tǒng):ubuntu10.10
注:jdk、hadoop、eclipse、hadoop-eclipse-plugin存在兼容問(wèn)題,建議大家按上面的版本進(jìn)行實(shí)踐(本人在搭建該環(huán)境時(shí)吃了不少虧~~)。
二、安裝操作
1、安裝JDK,此步省略…(不懂的點(diǎn)擊這里?)。
2、安裝hadoop,此步省略…(不懂的點(diǎn)擊這里?)。
3、安裝eclipse,操作步驟如下:
1)、把安裝文件拷貝到home目錄下
cp eclipse-jee-juno-SR1-linux-gtk.tar.gz /home
2)、安裝eclipse(即解壓就可使用)
tar -zxvf eclipse-jee-juno-SR1-linux-gtk.tar.gz
4)、啟動(dòng)eclipse,并創(chuàng)建workspace作為eclipse的工作空間
cd? /home/eclipse? #切換到eclipse目錄下
./eclipse
三、配置Eclipse、Hadoop開(kāi)發(fā)環(huán)境
第一步:安裝Eclipse-Hadoophadoop集成插件
把hadoop-eclipse-plugin-1.1.1.jar插件放到/home/eclipse/plugins中,然后重新啟動(dòng)Eclipse如下圖。
細(xì)心的你從上圖左側(cè)“Project Explorer”下面發(fā)現(xiàn)“DFS Locations”,說(shuō)明Eclipse已經(jīng)識(shí)別剛才放入的Hadoop Eclipse插件了。
第二步:在Eclipse中指定Hadoop的安裝目錄
選擇“Window”菜單下的“Preference”,然后彈出一個(gè)窗體,在窗體的左側(cè)中找到“Hadoop Map/Reduce”選項(xiàng),點(diǎn)擊此選項(xiàng),選擇Hadoop的安裝目錄(如我的Hadoop目錄:/home/hadoop/hadoop-1.1.1)。結(jié)果如下圖:
第三步:切換“Map/Reduce”工作目錄
有兩種方法:
1)、選擇“Window”菜單下選擇“Open Perspective–>Other”,彈出一個(gè)窗體,從中選擇“Map/Reduce”選項(xiàng)即可進(jìn)行切換。
2)、在Eclipse軟件的右上角,點(diǎn)擊圖標(biāo)“”中的“”,從中選擇“Map/Reduce”,然后點(diǎn)擊“OK”即可確定。
切換到“Map/Reduce”工作目錄下的界面如下圖所示。
第四步:配置DFS Locations
建立與Hadoop集群的連接,在Eclipse軟件下面的“Map/Reduce Locations”進(jìn)行右擊,彈出一個(gè)選項(xiàng),選擇“New Hadoop Location ”,然后彈出一個(gè)窗體。
注意上圖中的紅色標(biāo)注的地方,是需要我們關(guān)注的地方。
Location Name:可以任意填,標(biāo)識(shí)一個(gè)“Map/Reduce Location”
Map/Reduce Master
Host:xx.xx.xx.xx(Master.Hadoop的IP地址,即/home/hadoop/hadoop-1.1.1/conf/mapred-site.xml中ip)
Port:xx(即/home/hadoop/hadoop-1.1.1/conf/mapred-site.xml中端口)
DFS Master
Use M/R Master host:前面的勾上。(因?yàn)槲覀兊腘ameNode和JobTracker都在一個(gè)機(jī)器上。)
Host:xx.xx.xx.xx(/home/hadoop/hadoop-1.1.1/conf/core-site.xml中ip)
Port:xxxx (/home/hadoop/hadoop-1.1.1/conf/core-site.xml中端口)
User name:hadoop(操作hadoop的用戶(hù))
接著點(diǎn)擊“Advanced parameters”從中找到“hadoop.tmp.dir”,修改成為我們Hadoop集群中設(shè)置的地址,我們的Hadoop集群是“/home/hadoop/hadoop-datastore/”,這個(gè)參數(shù)在“core-site.xml”進(jìn)行了配置。
再?gòu)闹姓业健癴s.default.name”,修改成為我們Hadoop集群中設(shè)置的地址,我們的Hadoop集群是“hdfs://localhost:54310”,這個(gè)參數(shù)在“core-site.xml”進(jìn)行了配置。
點(diǎn)擊“finish”之后,會(huì)發(fā)現(xiàn)Eclipse軟件下面的“Map/Reduce Locations”出現(xiàn)一條信息, 就是我們剛才建立的“Map/Reduce Location ”。
第五步:查看HDFS文件系統(tǒng)
查看HDFS文件系統(tǒng),點(diǎn)擊Eclipse軟件左側(cè)的“DFS Locations”下面的“l(fā)ocalhost”,就會(huì)展示出HDFS上的文件結(jié)構(gòu)(記得要先啟動(dòng)hadoop,不然看不到效果)。
到此為止,我們的Hadoop Eclipse開(kāi)發(fā)環(huán)境已經(jīng)配置完畢。
總結(jié)
以上是生活随笔為你收集整理的在ubuntu下使用Eclipse搭建Hadoop开发环境的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: CentOS下yum源epel扩展源
- 下一篇: 朝天鼻如何整形