大數據 -- Hadoop集群搭建

Hadoop集群搭建

?

1.修改/etc/hosts文件

在每臺linux機器上,sudo vim /etc/hosts 編寫hosts文件。將主機名和ip地址的映射填寫進去。編輯完后,結果如下:

?

?

2.配置ssh,實現無密碼登錄

? 四臺虛擬機上,使用:?ssh-keygen -t rsa? 一路回車就行了

? master上將公鑰放到authorized_keys里。命令::

sudo cat id_rsa.pub >> authorized_keys

? 將master上的authorized_keys放到其他linux的~/.ssh目錄下。

sudo scp authorized_keys cjpt@132.228.28.183:~/.ssh

? 修改authorized_keys權限,命令:chmod 644 authorized_keys

? 測試是否成功

ssh cjpt@132.228.28.183

輸入用戶名密碼,然后退出,再次ssh hostbb不用密碼,直接進入系統。這就表示成功了

?

3.上傳jdk,并配置環境變量

? 下載java,解壓縮放到/usr/lib/jvm路徑下

? 在.bash_profile文件添加環境變量,vim ~/.bash_profile:

export JAVA_HOME=/usr/lib/jvm/jdk1.7.0_60
export JRE_HOME=/usr/lib/jvm/jdk1.7.0_60/jre

? source ~/.bash_profile,使配置生效

?

4.上傳hadoop,并配置hadoop

4.1. 下載hadoop包,解壓縮到本地路徑

4.2.??? 修改環境變量,將hadoop加進去

vim ~/.bashrc

export HADOOP_PREFIX=/home/cjpt/hadoop-2.2.0.2.0.6.0-76
export HADOOP_HOME=/home/cjpt/hadoop-2.2.0.2.0.6.0-76
export PATH=$HADOOP_HOME/bin:$JAVA_HOME/bin:$JRE_HOME/bin:$PATH

?4.3.??? 修改hadoop/etc/hadoop/下面的配置文件

  • ? hadoop-env.sh

?

注意:JAVA_HOME必須是絕對路徑,不然會報錯

  • ? core-site.xml

?

  • ? hdfs-site.xml

?

  • ? mapred-site.xml

?

  • ? master

?

  • slave

?

上面的hadoop-env.sh,core-site.xml,mapred-site.xml,hdfs-site.xml,master,slave幾個文件,在四臺linux中都是一樣的。

配置完一臺電腦后,可以將hadoop包,直接拷貝到其他電腦上。

?

4.4.??? 讓hadoop配置生效

source hadoop-env.sh

4.5.??? 格式化namenode,只格式一次

hadoop namenode –format

4.6.??? 啟動hadoop

切到hadoop/sbin目錄下,執行 start-all.sh啟動所有程序

./start-all.sh

4.7.??? 查看進程,是否啟動

jps

  • ? master主機:

?

  • ? slave機器:

?

?

轉載于:https://www.cnblogs.com/jeakeven/p/5855605.html

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/373938.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/373938.shtml
英文地址,請注明出處:http://en.pswp.cn/news/373938.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

通過示例休眠–第2部分(DetachedCriteria)

所以上次我們幫助正義聯盟有效地管理了他們的超級英雄。 今天,我們集中討論“復仇者聯盟”將如何使用冬眠的“分離標準”找出每個超級英雄的敵人,以保護他們的超級英雄。 您可以從此處下載工作示例。 在此示例中,我們僅考慮兩個實體。 復仇者…

2014編程之美初賽第二場

題目1 : 神奇的數列 時間限制:2000ms單點時限:1000ms內存限制:256MB描述 大神同學是一個熱愛數字的孩子,她無時無刻不在思考生活與數學的聯系。有一天,她發現其實公歷的設計是有講究的。 每4年就會多閏一天,每一百年又會有一年不是閏年&#…

usb大容量存儲設備驅動_usb無法識別怎么辦 如何解決usb識別故障【詳細步驟】...

usb無法識別怎么辦? 隨著計算機硬件飛速發展,外圍設備日益增多,鍵盤、鼠標等早已為人所共知,數碼相機、MP3隨身聽接踵而至,這么多的設備,如何接入個人計算機?USB就是基于這個目的產生的。USB是一個使計算機周邊設備連…

CSDN編程挑戰——《交替字符串》

交替字符串 題目詳情: 如果字符串str3能夠由str1和str2中的字符按順序交替形成,那么稱str3為str1和str2的交替字符串。例如str1"abc",str2"def",那么"adbecf", "abcdef", "abdecf", "…

hdu-5834 Magic boy Bi Luo with his excited tree(樹形dp)

題目鏈接: Magic boy Bi Luo with his excited tree Time Limit: 8000/4000 MS (Java/Others) Memory Limit: 131072/131072 K (Java/Others)Total Submission(s): 1037 Accepted Submission(s): 298 Problem DescriptionBi Luo is a magic boy, he also has …

Java EE過去,現在和云7

最近的JavaOne 2011的一個突出主題是下一個主要的Java EE 7版本。 正如主題發言中所述,有關工作正在進行中。 它將包含我們已經從先行者那里知道的28個規范以及一些新規范。 沒人可以告訴您確切的號碼,因為EE 7僅在“及時”完成時才會接受新的規范。 這意…

python cnn識別圖像_笨方法學習CNN圖像識別(一)—— 圖片預處理

— 全文閱讀5分鐘 —在本文中,你將學習到以下內容:通過數據增強增加樣本量調整圖片大小便于網絡訓練前言圖像識別的準備工作就是要對我們拿到手的樣本圖片進行預處理,具體就是數據增強和調整圖片大小,這些準備工作都是為訓練網絡做…

隨機數發生器

很多人喜歡用 rand()%n產生區間 [0,n]內的一個隨機整數。姑且不論這樣產生的整數是否仍然均勻分布,當 n大于 RAND_MAX 時,此法并不能得到期望的結果。由于RAND_MAX 很可能只是32767這么小,在使用此法時應當小心。 #include "stdio.h&quo…

Request和Response詳解

轉自:http://zhidao.baidu.com/link?url8BI0cjlcFdBSJKHTZlpo874eqtbTJoZfrh3miQgM_05RvSER8skPiBc1wSPZtXT8OGGCHfVXFAzAosa6E5HBl_ 內置對象request:請求對象request.getParameter("名字") 獲得客戶端輸入的信息***************request.get…

將Maven與Ivy集成

問題是:您在Ivy存儲庫中(只有那里)有一些資源,您想在基于Maven的項目中使用這些資源。 可能的解決方案: 由于Ivy可以輕松使用Maven風格的存儲庫(因此,您的Ivy客戶端可以繼續使用Ivy并進行一些微…

用python下載辭典

用python下載詞源詞典Etymoline Online Etymology Dictionary是最好的 English 詞源詞典,現在來說沒有之一。但是,一直在PC上查單詞有時不是很方便,遂就想怎么才能在手機上使用。現在的手機上的詞典,除了BlueDict、MDict之外&…

程序員都用什么來記錄知識_1年前的小五都用 Python 來做什么?

↑ 點擊上方 “凹凸數據” 關注 星標 ~ 每天更新,干貨不斷 (多圖預警)注:這是小五一年前在知乎的回答,當時還只有凹凸數讀一個公眾號,所以很多圖片都會帶有數讀或者知乎的水印。作為一個菜鳥數據分析師,只會sqlpytho…

CSDN編程挑戰——《高斯公式》

高斯公式 題目詳情: 高斯在上小學時發明了等差數列求和公式:12..1005050。現在問題在于給你一個正整數n,問你他可以表示為多少種連續正整數之和?(自身也算)。 輸入格式: 多組數據,每組數據一行&#xff0c…

SQL-行轉列(PIVOT)實例1

--未旋轉之前的查詢結果 select s.Name ShiftName,h.BusinessEntityID,d.Name as DpartmentName from HumanResources.EmployeeDepartmentHistory h inner join HumanResources.Department d on h.DepartmentIDd.DepartmentIDinner join HumanResources.Shift s on s.ShiftIDh…

將MongoDB與Morphia結合使用

在過去的幾年中, NoSQL數據庫(例如CouchDB,Cassandra和MongoDB)在不需要運行傳統RDBMS的語義和開銷的應用程序中得到了普及。 我不會進入選擇NoSQL數據庫的設計決策,因為其他人已經做得很好,但是我將結合我…

webservice接口_webservice服務器端發票識別接口

關鍵詞:發票識別 私有云發票識別 發票識別API接口 webservice發票識別平臺發票,一個再也熟悉不過的財務往來憑證,錄入發票,一項讓多少財會人員頭疼的工作。過去錄入一張發票需要一個財會人員5分鐘的時間,那么這個人在工…

二叉樹學習——簡單入門題

入門題一: 輸入一顆二叉樹,你的任務是按從上到下、從左到右的順序輸出各個節點的值。每個節點都按照從根節點到它的移動序列給出 (L表示左,R表示右)。在輸入中,每個節點的左括號和右括號之間沒有空格&#…

java8-4 多態的練習以及題目

1、/* 多態練習:貓狗案例*/ 1 class Animal {2 public void eat(){3 System.out.println("吃飯");4 }5 }6 7 class Dog extends Animal {8 public void eat() {9 System.out.println("狗吃肉"); 10 } 11 12 public void lookDoor() { 13 Syste…

一個簡單的socket通信小demo

寫了一個socket的程序,可以和本地的服務器進行通信,要先和服務器建立鏈接,然后發送登錄信息,驗證成功,就可以和服務器通信了 1 頁面截圖 2 點擊鏈接服務器,可以鏈接服務器,服務器的ip地址為&…

Java并發教程– CountDownLatch

Java中的某些并發實用程序自然會比其他并發實用程序受到更多關注,因為它們可以解決通用問題而不是更具體的問題。 我們大多數人經常遇到執行程序服務和并發集合之類的事情。 其他實用程序不太常見,因此有時它們可??能會使我們逃脫,但是請記…