目錄
- 1.先決條件
- 1.1 支持平臺
- 1.2 jdk及hadoop安裝包
- 1.3 Xshell 7與Xftp 7工具安裝
- 2.具體安裝步驟
- 2.1 網(wǎng)絡(luò)配置
- 2.2 Xshell連接
- 2.3 Xftp傳輸
- 2.4 jdk環(huán)境配置
- 2.5 ssh服務(wù)配置
- 2.6 hadoop配置
- 2.7 hadoop單機模式操作方法
1.先決條件
1.1 支持平臺
GNU/Linux是產(chǎn)品開發(fā)和運行的平臺。 Hadoop已在有2000個節(jié)點的GNU/Linux主機組成的集群系統(tǒng)上得到驗證。
所以首先我們需要下載Linux的ISO安裝包安裝,具體安裝參考我的上一篇博客:
VirtualBox虛擬機以及CentOS系統(tǒng)的安裝【詳細】
1.2 jdk及hadoop安裝包
可以去官網(wǎng)下載或者下載我上傳的資源,我所用的具體版本如下圖所示:
鏈接: https://pan.baidu.com/s/1XTZfzl0t79Dtz0-jmQrQuQ 提取碼: pkwy
1.3 Xshell 7與Xftp 7工具安裝
主要作用是用Xshell 7進行虛擬機各項操作,用Xftp 7將本地的jdk及hadoop安裝包傳輸?shù)教摂M機上
兩個工具均可以在官網(wǎng)下載,選擇個人使用方式可以免費下載
2.具體安裝步驟
2.1 網(wǎng)絡(luò)配置
需要注意的是在參考上篇博客安裝CentOS設(shè)置網(wǎng)絡(luò)連接時兩個網(wǎng)關(guān)都要打開,具體如下:
啟動之前進行網(wǎng)絡(luò)設(shè)置
然后點擊啟動,進行到下列步驟時注意將兩個網(wǎng)關(guān)打開并對第二個網(wǎng)絡(luò)進行手動配置
點擊配置,手動配置Ipv4,將框內(nèi)地址填入對用項,點擊保存。
Centos安裝后,點擊啟動,在終端登錄root賬戶后,輸入ifconfig命令,檢查網(wǎng)絡(luò)配置,如果不存在,執(zhí)行命令yum install net-tools.x86_64,彈出y/n的話,選擇y。
執(zhí)行
vi /etc/sysconfig/network-scripts/ifcfg-enp0s8
把onboot=no改成yes
點擊insert鍵(即鍵盤i鍵),上下移動到那里改好之后,按esc建退出編輯模式,然后再按:wq就可以保存退出了,注意有:
不出意外,網(wǎng)絡(luò)已經(jīng)配置好了。
重啟虛擬機或者重啟網(wǎng)卡服務(wù)
登錄后 再次輸入ifconfig命令,已經(jīng)有了反饋信息,如圖將框內(nèi)IP地址記下
2.2 Xshell連接
打開Xshell,新建連接,將IP地址寫入下圖框內(nèi),即可在本地建立與虛擬機的連接,后續(xù)對虛擬機的各項操作均可在Xshell終端中進行。
2.3 Xftp傳輸
點擊下圖按鈕,新建文件傳輸,自動調(diào)用Xftp進行文件傳輸
在右側(cè)root文件夾下新建java子文件夾,找到本地文件右鍵->傳輸,即可將兩個壓縮包上傳到虛擬機
2.4 jdk環(huán)境配置
輸入以下命令檢測是否默認安裝jdk,沒有反饋信息說明沒有安裝
使用
將目錄切換到j(luò)ava子文件夾下,
使用如下命令開始解壓jdk壓縮包
通過/etc/profile 配置環(huán)境變量
[root@bogon ~]# vi /etc/profile
進入編輯模式(i),添加以下代碼,然后保存退出(esc+:+wq)
#最后添加以下內(nèi)容,注意查看自己的路徑及jdk版本
export JAVA_HOME=/root/java/jdk-16
export JRE_HOME=${JAVA_HOME}/jre
export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib
export PATH=${JAVA_HOME}/bin:$PATH
讓/etc/profile文件修改后立即生效 ,可以使用如下命令:
[root@bogon ~]# source /etc/profile
檢測是否安裝成功:
[root@bogon ~]# java -version
2.5 ssh服務(wù)配置
ssh 必須安裝并且保證 sshd一直運行,以便用Hadoop 腳本管理遠端Hadoop守護進程
檢查是否安裝ssh服務(wù):
> [root@bogon ~]# rpm -qa|grep ssh
若已經(jīng)安裝會顯示相應(yīng)版本
沒有安裝,使用以下命令安裝
[root@bogon ~]# yum install openssh-server
開啟sshd服務(wù)
[root@bogon ~]# sudo service sshd start
為了免去每次開啟 CentOS 時,都要手動開啟 sshd 服務(wù),可以將 sshd 服務(wù)添加至自啟動列表中,輸入
[root@bogon ~]# systemctl enable sshd.service
可以通過輸入
[root@bogon ~]# systemctl list-unit-files | grep sshd
查看是否開啟了sshd 服務(wù)自啟動
2.6 hadoop配置
為了獲取Hadoop的發(fā)行版,從Apache的某個鏡像服務(wù)器上下載最近的穩(wěn)定發(fā)行版,
這里我們使用安裝包中的穩(wěn)定版hadoop-1.0.3.tar.gz
如之前解壓jdk操作一樣,將放置在java文件夾下的hadoop-1.0.3.tar.gz解壓
具體操作為終端切換到j(luò)ava路徑下,使用以下命令解壓壓縮包
tar -zxvf hadoop-1.0.3.tar.gz
解壓結(jié)果如下
嘗試如下命令:
[root@bogon java]# cd /root/java/hadoop-1.0.3
[root@bogon hadoop-1.0.3]# bin/hadoop
將會顯示hadoop 腳本的使用文檔
2.7 hadoop單機模式操作方法
默認情況下,Hadoop被配置成以非分布式模式運行的一個獨立Java進程。這對調(diào)試非常有幫助,
以下命令即運行了一次hadoop程序并獲取了輸出。
下面的實例將已解壓的 conf 目錄拷貝作為輸入,查找并顯示匹配給定正則表達式的條目,輸出寫入到指定的output目錄
[root@bogon hadoop-1.0.3]# mkdir input
[root@bogon hadoop-1.0.3]# cp conf/*.xml input
[root@bogon hadoop-1.0.3]# bin/hadoop jar hadoop-examples-1.0.3.jar grep input output 'dfs[a-z.]+'
[root@bogon hadoop-1.0.3]# cat output/*
以下顯示該hadoop程序運行結(jié)果
到此這篇關(guān)于VirtualBox安裝CentOS及JDK、Hadoop的安裝與配置詳細教程的文章就介紹到這了,更多相關(guān)VirtualBox CentOS安裝配置JDK、Hadoop內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!