CentOS7安裝Hadoop2.7完整步驟

總體思路,準備主從服務器,配置主服務器可以無密碼SSH登錄從服務器,解壓安裝JDK,解壓安裝Hadoop,配置hdfs、mapreduce等主從關系。

1、環境,3臺CentOS7,64位,Hadoop2.7需要64位Linux,CentOS7 Minimal的ISO文件只有600M,操作系統十幾分鐘就可以安裝完成,
Master 192.168.0.182
?Slave1 192.168.0.183
?Slave2 192.168.0.184

2、SSH免密碼登錄,因為Hadoop需要通過SSH登錄到各個節點進行操作,我用的是root用戶,每臺服務器都生成公鑰,再合并到authorized_keys
(1)CentOS默認沒有啟動ssh無密登錄,去掉/etc/ssh/sshd_config其中2行的注釋,每臺服務器都要設置,
#RSAAuthentication yes
#PubkeyAuthentication yes
(2)輸入命令,ssh-keygen -t rsa,生成key,都不輸入密碼,一直回車,/root就會生成.ssh文件夾,每臺服務器都要設置,
(3)合并公鑰到authorized_keys文件,在Master服務器,進入/root/.ssh目錄,通過SSH命令合并,
cat id_rsa.pub>> authorized_keys
ssh root@192.168.0.183 cat ~/.ssh/id_rsa.pub>> authorized_keys
ssh root@192.168.0.184 cat ~/.ssh/id_rsa.pub>> authorized_keys
(4)把Master服務器的authorized_keys、known_hosts復制到Slave服務器的/root/.ssh目錄
(5)完成,ssh root@192.168.0.183、ssh root@192.168.0.184就不需要輸入密碼了

3、安裝JDK,Hadoop2.7需要JDK7,由于我的CentOS是最小化安裝,所以沒有OpenJDK,直接解壓下載的JDK并配置變量即可
(1)下載“jdk-7u79-linux-x64.gz”,放到/home/java目錄下
(2)解壓,輸入命令,tar -zxvf jdk-7u79-linux-x64.gz
(3)編輯/etc/profile
export JAVA_HOME=/home/java/jdk1.7.0_79
export CLASSPATH=.:$JAVA_HOME/jre/lib/rt.jar:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
export PATH=$PATH:$JAVA_HOME/bin?
(4)使配置生效,輸入命令,source /etc/profile
(5)輸入命令,java -version,完成

4、安裝Hadoop2.7,只在Master服務器解壓,再復制到Slave服務器
(1)下載“hadoop-2.7.0.tar.gz”,放到/home/hadoop目錄下
(2)解壓,輸入命令,tar -xzvf hadoop-2.7.0.tar.gz
(3)在/home/hadoop目錄下創建數據存放的文件夾,tmp、hdfs、hdfs/data、hdfs/name

5、配置/home/hadoop/hadoop-2.7.0/etc/hadoop目錄下的core-site.xml
?<configuration>
? ? <property>
? ? ? ? <name>fs.defaultFS</name>
? ? ? ? <value>hdfs://192.168.0.182:9000</value>
? ? </property>
? ? <property>
? ? ? ? <name>hadoop.tmp.dir</name>
? ? ? ? <value>file:/home/hadoop/tmp</value>
? ? </property>
? ? <property>
? ? ? ? <name>io.file.buffer.size</name>
? ? ? ? <value>131702</value>
? ? </property>
?</configuration>

6、配置/home/hadoop/hadoop-2.7.0/etc/hadoop目錄下的hdfs-site.xml
?<configuration>
? ? <property>
? ? ? ? <name>dfs.namenode.name.dir</name>
? ? ? ? <value>file:/home/hadoop/dfs/name</value>
? ? </property>
? ? <property>
? ? ? ? <name>dfs.datanode.data.dir</name>
? ? ? ? <value>file:/home/hadoop/dfs/data</value>
? ? </property>
? ? <property>
? ? ? ? <name>dfs.replication</name>
? ? ? ? <value>2</value>
? ? </property>
? ? <property>
? ? ? ? <name>dfs.namenode.secondary.http-address</name>
? ? ? ? <value>192.168.0.182:9001</value>
? ? </property>
? ? <property>
? ? <name>dfs.webhdfs.enabled</name>
? ? <value>true</value>
? ? </property>
?</configuration>

7、配置/home/hadoop/hadoop-2.7.0/etc/hadoop目錄下的mapred-site.xml
?<configuration>
? ? <property>
? ? ? ? <name>mapreduce.framework.name</name>
? ? ? ? <value>yarn</value>
? ? </property>
? ? <property>
? ? ? ? <name>mapreduce.jobhistory.address</name>
? ? ? ? <value>192.168.0.182:10020</value>
? ? </property>
? ? <property>
? ? ? ? <name>mapreduce.jobhistory.webapp.address</name>
? ? ? ? <value>192.168.0.182:19888</value>
? ? </property>
?</configuration>


?8、配置/home/hadoop/hadoop-2.7.0/etc/hadoop目錄下的mapred-site.xml
?<configuration>
? ? <property>
? ? ? ? <name>yarn.nodemanager.aux-services</name>
? ? ? ? <value>mapreduce_shuffle</value>
? ? </property>
? ? <property>
? ? ? ? <name>yarn.nodemanager.auxservices.mapreduce.shuffle.class</name>
? ? ? ? <value>org.apache.hadoop.mapred.ShuffleHandler</value>
? ? </property>
? ? <property>
? ? ? ? <name>yarn.resourcemanager.address</name>
? ? ? ? <value>192.168.0.182:8032</value>
? ? </property>
? ? <property>
? ? ? ? <name>yarn.resourcemanager.scheduler.address</name>
? ? ? ? <value>192.168.0.182:8030</value>
? ? </property>
? ? <property>
? ? ? ? <name>yarn.resourcemanager.resource-tracker.address</name>
? ? ? ? <value>192.168.0.182:8031</value>
? ? </property>
? ? <property>
? ? ? ? <name>yarn.resourcemanager.admin.address</name>
? ? ? ? <value>192.168.0.182:8033</value>
? ? </property>
? ? <property>
? ? ? ? <name>yarn.resourcemanager.webapp.address</name>
? ? ? ? <value>192.168.0.182:8088</value>
? ? </property>
? ? <property>
? ? ? ? <name>yarn.nodemanager.resource.memory-mb</name>
? ? ? ? <value>768</value>
? ? </property>
?</configuration>

9、配置/home/hadoop/hadoop-2.7.0/etc/hadoop目錄下hadoop-env.sh、yarn-env.sh的JAVA_HOME,不設置的話,啟動不了,
export JAVA_HOME=/home/java/jdk1.7.0_79

10、配置/home/hadoop/hadoop-2.7.0/etc/hadoop目錄下的slaves,刪除默認的localhost,增加2個從節點,
192.168.0.183
192.168.0.184

11、將配置好的Hadoop復制到各個節點對應位置上,通過scp傳送,
scp -r /home/hadoop 192.168.0.183:/home/
scp -r /home/hadoop 192.168.0.184:/home/

12、在Master服務器啟動hadoop,從節點會自動啟動,進入/home/hadoop/hadoop-2.7.0目錄
(1)初始化,輸入命令,bin/hdfs namenode -format
(2)全部啟動sbin/start-all.sh,也可以分開sbin/start-dfs.sh、sbin/start-yarn.sh
(3)停止的話,輸入命令,sbin/stop-all.sh
(4)輸入命令,jps,可以看到相關信息

13、Web訪問,要先開放端口或者直接關閉防火墻
(1)輸入命令,systemctl stop firewalld.service
(2)瀏覽器打開http://192.168.0.182:8088/
(3)瀏覽器打開http://192.168.0.182:50070/

14、安裝完成。這只是大數據應用的開始,之后的工作就是,結合自己的情況,編寫程序調用Hadoop的接口,發揮hdfs、mapreduce的作用。

?轉:http://www.linuxidc.com/Linux/2015-11/124800.htm

轉載于:https://www.cnblogs.com/kaid/p/7640772.html

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/454432.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/454432.shtml
英文地址,請注明出處:http://en.pswp.cn/news/454432.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

Django REST framework 解析器和渲染器

解析器的作用 解析器的作用就是服務端接收客戶端傳過來的數據&#xff0c;把數據解析成自己可以處理的數據。本質就是對請求體中的數據進行解析。 在了解解析器之前&#xff0c;我們要先知道Accept以及ContentType請求頭。 Accept是告訴對方我能解析什么樣的數據&#xff0c…

MyBatis的學習之路(二)

上篇文章介紹了MyBatis的配置文件&#xff0c;現在來介紹實體映射文件Mapper.xml。 說道實體映射文件&#xff0c;就不得不說一下實體與表之間的映射關系&#xff1a;單表映射和多表映射。 a. 單表映射 1 public class Admin{ 2 private String id; 3 private String n…

計算機一級實驗素材題目,計算機一級EXCEL操作題整理素材(12頁)-原創力文檔...

素材摘錄&#xff0c;文檔可編輯分享PAGE 頁碼頁碼/NUMPAGES 總頁數總頁數單元格合并首先選中你要合并的單元格&#xff0c;然后找到EXCEL上的開始分區里的這種圖標或者是含有“合并”兩字的位置如圖1-1&#xff0c;如果題目要求的是要你合并單元格并讓內容居中&#xff0c;你就…

python爬取toefl_spark學習進度6-Python爬取數據的四個簡單實例

今天本來想把昨天安裝的intellij配置好&#xff0c;但是一直顯示沒有網絡&#xff0c;網上查了相關資料也沒有查出來解決辦法。然后暫停了intellij的配置&#xff0c;開始做了幾個Python爬取簡單數據的實例&#xff0c;先做了幾個最簡單的&#xff0c;以后再加大難度&#xff0…

Django REST framework 版本

API 版本控制允許我們在不同的客戶端之間更改行為&#xff08;同一個接口的不同版本會返回不同的數據&#xff09;。 DRF提供了許多不同的版本控制方案。 可能會有一些客戶端因為某些原因不再維護了&#xff0c;但是我們后端的接口還要不斷的更新迭代&#xff0c;這個時候通過…

AngularJS中的過濾器(filter)

AngularJS中的過濾器是用于對數據的格式化&#xff0c;或者篩選的函數&#xff0c;可以直接通過以下語法使用&#xff1a; {{expression|filter}} {{expression|filter1|filter2}} {{expression|filter1:param1,param2,...|filter2} 過濾器的種類有number&#xff0c;currency&…

計算機考試上傳照片教程,電腦照片傳到iPhone手機的詳細步驟【圖文】

蘋果自帶的iOS系統是不可以隨便和電腦進行數據交換的&#xff0c;必須使用iTunes軟件。許多用戶為此問題困擾&#xff0c;我們有什么可以把電腦照片傳到iPhone手機&#xff1f;下面我們就一起來看看把電腦照片傳到iphone設備的詳細步驟。具體方法如下&#xff1a;1&#xff0c;…

javaweb 導出文件名亂碼的問題解決方案

fileName new String(fileName.getBytes("ISO8859-1"), "UTF-8"); 或者 String finalFileName null; if(StringUtils.contains(userAgent, "MSIE")){//IE瀏覽器 finalFileName URLEncoder.encode(fileName,"UTF8"); }else if(Str…

AVS 分像素運動估計優化算法

—249—AVS 分像素運動估計優化算法楊涵悅 1&#xff0c;張兆楊1&#xff0c;滕國偉2(1. 上海大學通信學院&#xff0c;上海 200072&#xff1b;2. 上海廣電(集團)有限公司中央研究院&#xff0c;上海 200233)摘要&#xff1a;針對AVS 分像素運動估計的問題&#xff0c;提出一種…

計算機系統結構sw指令集,自考02325計算機系統結構復習資料六

自考生網為考生收集整理了“自考02325計算機系統結構復習資料六“以供考生們在考試前用復習資料鞏固所學到的知識&#xff0c;得到更好地復習效果。注&#xff1a;由于各省教材每年都有更新、變動&#xff0c;自考復習資料并不一定出于同一自考教材版本&#xff0c;但考生們仍可…

Django REST framework 源碼中提供的默認配置

DEFAULTS 是默認配置&#xff0c;IMPORT_STRINGS 是要相對應導入的類 鍵 大寫大寫大寫 ########################### settings.py ########################## DEFAULTS {# Base API policiesDEFAULT_RENDERER_CLASSES: (rest_framework.renderers.JSONRenderer,rest_framew…

python 去掉空格_如何從Python DataFrame中去除空格在這個例子中

使用applymap到數據幀&#xff0c;applymap施加一拉每個單元格上的mbda函數。在lambda函數中拆分字符串&#xff08;白色空格在其中被忽略&#xff09;然后加入它。如果有一個int&#xff0c;那么你可以在lambda函數中使用if else。 from pandas import Series, DataFrame impo…

Mware HA實戰攻略之五VMwareHA測試驗收

【IT168 專稿】在上一篇"VMware HA實戰攻略之四VMwareHA安裝及配置"中&#xff08;點擊&#xff09;&#xff0c;講述了VMwareHA的概念及創建過程&#xff0c;還講述了創建過程中要注意的一些事項。在本篇中&#xff0c;將要講述如何在群集節點之一的ESX主機上安裝虛…

AVS解碼器在DSP平臺上的優化

AVS( Audio Video Coding STandard)是由我國數字 音視頻標準工作組制定的具有自主知識產權的第二代音視頻壓縮準。AVS實行1 元專利費用的原則&#xff0c;相比其它音視頻編解碼標準具有編碼效率高、專利費用低、授權模式簡單等優勢。AVS 解碼器的結構復雜、運算量較大&#xff…

如何重做計算機系統軟件,電腦卡如何一鍵重做Win7旗艦版

電腦卡如何一鍵重做Win7旗艦版&#xff1f;小伙伴們在使用電腦的過程中系統會越來越卡&#xff0c;對于新手小白來說怎么重裝系統是一個比較煩惱的問題&#xff0c;不知道如何下手&#xff0c;從哪里開始&#xff0c;那么接下來就以云騎士裝機大師為例給小伙伴們講解一下電腦卡…

Django Rest framework Request

[Django Rest framework文檔翻譯]-Request REST framework的Request類擴展自標準的HttpRequest&#xff0c;增加了REST framework靈活的請求解析和請求驗證支持。 請求解析 REST framework的Request對象提供了靈活的請求解析&#xff0c;讓你可以像一般處理普通form數據一樣…

python去停用詞用nltk_【NLTK】安裝和使用NLTK分詞和去停詞

黃聰&#xff1a;PythonNLTK自然語言處理學習&#xff08;一&#xff09;&#xff1a;環境搭建 http://www.cnblogs.com/huangcong/archive/2011/08/29/2157437.html 安裝NLTK可能出現的問題&#xff1a; 1. pip install ntlk 2. 如果遇到缺少stopwords報錯如下&#xff1a;&am…

JavaScript知識概要

JavaScript 1.簡介 JavaScript簡介&#xff1a; JS是運行在瀏覽器端的一門腳本語言&#xff0c;一開始主要用來做瀏覽器驗證&#xff0c;但現在功能已經不止于此。 所謂腳本語言就是指&#xff0c;代碼不需要編譯&#xff0c;直接運行&#xff0c;并且讀入…

計算機文檔xsl,XSL-FO 文檔

XSL-FO 文檔XSL-FO 文檔XSL-FO 文檔是帶有輸出信息的 XML 文件。XSL-FO 文檔存儲在以 .fo 或 .fob 為文件擴展名的文件中。您也可以把 XSL-FO 文檔存儲為以 .xml 為擴展名的文件&#xff0c;這樣做的話可以使 XSL-FO 文檔更易被 XML 編輯器存取。XSL-FO 文檔結構XSL-FO 的文檔結…

vue項目cordova打包的android應用

準備工作nodejs、cordova、AndroidStudio這些在上一篇文章中已經說過了&#xff0c;這里就不重復說明。以此文記錄vue項目用cordova打包移動app的方法。 1.創建一個cordova項目&#xff0c;如創建一個名為testapp的工程&#xff1a;cordova create testapp 2.添加安卓平臺 cord…