Hadoop的安裝及配置

PS:最新安裝教程請參考Hadoop的安裝與配置(設置單節點群集)詳細教程

1、Hadoop安裝前準備工作:
在開始Hadoop安裝與配置之前,需要準備的環境:Linux系統、配置JDK環境變量。

2、安裝
我們可以到Apache Hadoop的官網http://hadoop.apache.org/進行下載相應的安裝文件!

下載后,使用 : tar -zxvf tar包名,解壓到指定位置!

3、Hadoop配置文件的修改
Hadoop主要修改的配置文件為5處:

  • hadoop-env.sh
  • core-site.xml
  • hdfs-site.xml
  • mapred-site.xml
  • yarn-site.xml

3.1、hadoop-env.sh
在對應的位置找到以下兩行配置,并修改為本機中的路徑。

export JAVA_HOME=/Library/Java/JavaVirtualMachines/jdk1.8.0_231.jdk/Contents/Home
export HADOOP_CONF_DIR=/Users/marron27/TOOLS/hadoop-2.10.0/etc/hadoop

在這里插入圖片描述
3.2、core-site.xml

<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://localhost:9000</value>
</property>
<!--自己創建的,指定hadoop運行時產生文件的存放目錄-->
<name>hadoop.tmp.dir</name>
<value>/Users/marron27/TOOLS/hadoop-2.10.0/tmp</value>
</property>
</configuration>

在這里插入圖片描述
3.3、hdfs-site.xml

<configuration><property>
<!--指定hdfs保存數據副本的數量,包括自己,默認為3-->
<!--偽分布式模式,此值必須為1-->
<name>dfs.replication</name>
<value>1</value>
</property><!--不是root用戶也可以寫文件到hdfs-->
<property>
<name>dfs.permissions</name>
<value>false</value>    <!--關閉防火墻-->
</property></configuration>

在這里插入圖片描述

3.4、mapred-site.xml

<configuration>
<property>
<!--指定mapreduce運行在yarn上-->
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
</configuration>

在這里插入圖片描述

3.5、yarn-site.xml

<configuration><!-- Site specific YARN configuration properties -->
<property>
<name>yarn.resourcemanager.hostname</name>
<value>localhost</value>
</property>
<property>
<!--NodeManager獲取數據的方式-->
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property></configuration>

在這里插入圖片描述

4、配置Hadoop環境變量

  1. 在 .bash_profile 文件中配置Hadoop環境變量,使用vim打開該文件,進入編輯模式 vim ~/.bash_profile

  2. 在該文件中添加Hadoop的安裝路徑
    在這里插入圖片描述
    添加完成后保存退出。

  3. 使用source命令使該文件中的修改立即生效source ~/.bash_profile

  4. 到此所有的配置已經完成,接下來執行該命令格式化namenode: hadoop namenode -format。

  5. 格式化成功之后,即可啟動Hadoop,在Hadoop安裝目錄下有個/sbin目錄,目錄下有個start-all.sh,執行該文件./start-all.sh

5、測試
此時執行以下命令查看安裝是否成功

hadoop fs -mkdir /testdata     在hdfs根目錄下創建一個文件夾 testdata
hadoop fs -ls /  

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/535866.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/535866.shtml
英文地址,請注明出處:http://en.pswp.cn/news/535866.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

在 PWA 中使用 App Shell 模型提升性能和用戶感知體驗

作者&#xff5c;潘宇琪 編輯&#xff5c;Daisy 在構建 PWA 應用時&#xff0c;使用 App Shell 模型能夠在視覺和首屏加載速度方面帶來用戶體驗的提升。另外&#xff0c;在配合 Service Worker 離線緩存之后&#xff0c;用戶在后續訪問中將得到快速可靠的瀏覽體驗。 在實踐過…

【轉】超酷的 mip-infinitescroll 無限滾動(無限下拉)

寫在前面 無限滾動技術&#xff08;又叫做無限下拉技術&#xff09;被廣泛應用于新聞類&#xff0c;圖片預覽類網站。對用戶來講&#xff0c;使用無限滾動的頁面有源源不斷的信息可以預覽&#xff0c;增加用戶在頁面的停留時長。技術上原理也很簡單&#xff0c;在頁面加載時加…

日常問題——Mac下新建目錄報Read-only file system

問題描述&#xff1a; 今天在根目錄下&#xff0c;新建目錄時出現了Read-only file system提示為只讀的錯誤。電腦最近并沒有非正常關機之類可能導致文件損傷的操作&#xff0c;但是最近倒是進行了一次系統更新。 解決方案&#xff08;過程&#xff09;&#xff1a; 從系統更…

MongoDB(二):MongoDB的安裝

這里以OSX系統為例&#xff0c;window和linux可以參考https://www.runoob.com/mongodb/mongodb-linux-install.html 1、我們使用 curl 命令來下載安裝&#xff1a; # 進入 /usr/local cd /usr/local# 下載 sudo curl -O https://fastdl.mongodb.org/osx/mongodb-osx-ssl-x86_…

百度推出 MIP Baidu Path鏈接

在站長將站點 MIP 化時&#xff0c;需要關注 URL 的一共有三個&#xff1a;MIP URL, MIP-Cache URL 以及 MIP Baidu Path。 從 URL 說起 在互聯網中&#xff0c;URL 定義頁面的地址&#xff0c;每個 URL 對應一個頁面。而 MIP URL 則是 MIP 頁的原始地址&#xff0c;指向托管…

Postman接口測試(超詳細整理)

常用的接口測試工具主要有以下幾種 Postman&#xff1a;簡單方便的接口調試工具&#xff0c;便于分享和協作。具有接口調試&#xff0c;接口集管理&#xff0c;環境配置&#xff0c;參數化&#xff0c;斷言&#xff0c;批量執行&#xff0c;錄制接口&#xff0c;Mock Server, …

mip-link 組件功能升級說明

背景描述 某個頁面被多少頁面引用&#xff08;在其他頁面上有指向這個頁面的 a 標簽&#xff09;&#xff0c;是搜索引擎判斷這個頁面價值的其中一個因子。這里的搜索引擎不只是指百度&#xff0c;還包括國內外其他的搜索引擎。 MIP 在最初設計 MIP url 跳轉邏輯實現時&#…

日常問題——使用Xshell 連接虛擬機報錯 Disconnected from remote host

問題描述&#xff1a; 使用Xshell進行連接虛擬機的操作時出現了Disconnected from remote host的錯誤&#xff01; 解決方案&#xff08;過程&#xff09;&#xff1a; 1、vim /etc/ssh/sshd_config 2、#UseDNS yes改為UseDNS no 3、重啟service sshd restart 問題解決&…

【轉】AB實驗設計思路及實驗落地

這篇文章會討論&#xff1a; 1. 在什么情況下需要做 AB 實驗 2. 從產品/交互角度&#xff0c;如何設計一個實驗 3. 前端工程師如何打點 4. 如何統計數據&#xff0c;并保證數據準確可信 5. 如何分析實驗數據&#xff0c;有哪些數據需要重點關注 6. 附&#xff1a;如何搭建…

簡單實現MySQL數據實時增量同步到Kafka————Maxwell

任務需求&#xff1a;將MySQL里的數據實時增量同步到Kafka 1、準備工作 1.1、MySQL方面&#xff1a;開啟BinLog 1.1.1、修改my.cnf文件 vi /etc/my.cnf [mysqld] server-id 1 binlog_format ROW1.1.2、重啟MySQL,然后登陸到MySQL之后&#xff0c;查看是否已經修改過來: …

【轉】mip-semi-fixed 走走又停停

寫在前面 MIP 中懸浮元素的特殊情況 其實組件上線已經有一段時間了&#xff0c;最開始看到這個需求是站長提交了一個這中功能的組件過來&#xff0c;不過看過代碼立刻就想到了 MIP 頁面的特殊性&#xff1a;從結果頁打開的 MIP 頁面&#xff0c;是嵌套在一個 iframe 之中的。…

Mac使用Homebrew安裝Kafka

1、使用brew install命令安裝Kafka $ brew install kafka安裝過程將依賴安裝 zookeeper軟件位置 /usr/local/Cellar/zookeeper /usr/local/Cellar/kafka配置文件位置 /usr/local/etc/kafka/zookeeper.properties /usr/local/etc/kafka/server.properties 備注&#xff1a;后…

廣州站長沙龍 MIP 問題及答案

1. mip提交幾個月時間了&#xff0c;生效量比較少&#xff0c;是什么原因&#xff1f; 答&#xff1a;提交 MIP 頁面后&#xff0c;經過收錄、校驗、和生效三個步驟&#xff0c;才能在結果頁看到閃電標。 1&#xff09;提交 URL 后&#xff0c;spider 會去抓取收錄&#xff1…

日常問題——初始化Hive倉庫報錯com.google.common.base.Preconditions.checkArgument

問題描述&#xff1a; 初始化Hive倉庫報錯Exception in thread “main” java.lang.NoSuchMethodError: com.google.common.base.Preconditions.checkArgument(ZLjava/lang/String;Ljava/lang/Object;)V 解決方案&#xff08;過程&#xff09;&#xff1a; com.google.commo…

【轉】百度站長平臺MIP引入工具使用心得

MIP引入主動推送流程 對于 MIP 站點改造好了&#xff0c;我們如何提交數據&#xff0c;并且 MIP 提交后&#xff0c;我們能得到哪些數據的反饋&#xff0c;在這里簡單的寫一篇文章&#xff0c;說一下。 改造 MIP&#xff0c;我們一般是添加了一個二級域名站點進行改造&#x…

Hadoop之HDFS應用

1、通過http://127.0.0.1:8088/即可查看集群所有節點狀態&#xff1a; 2、訪問http://localhost:9870/即可查看文件管理頁面&#xff08;在3.0.0中在之前的版本中文件管理的端口是50070&#xff0c;替換為了9870端口&#xff09;&#xff1a; ————進入文件系統 ————…

MIP ACCESS細節剖析

什么是 MIP ACCESS MIP ACCESS 由百度 MIP 團隊開發的一種頁面訪問權限控制機制&#xff0c;能夠允許網頁發布者在頁面元素中定義內容標記&#xff0c;并結合用戶訪問情況進行綜合評價&#xff0c;從而展現或隱藏頁面中內容&#xff0c;直至用戶登錄、訂閱或付費后才能夠查看隱…

HDFS常用Shell命令

1、-ls: 顯示目錄信息 hadoop fs -ls /2、-mkdir&#xff1a;在HDFS上創建目錄 hadoop fs -mkdir -p /demo/test3、-moveFromLocal&#xff1a;從本地剪切粘貼到HDFS hadoop fs -moveFromLocal a.txt /demo/test/a.txt4、-appendToFile&#xff1a;追加一個文件到已經存在…

Linux環境下Flume的安裝

1、在官網http://flume.apache.org/download.html下載flume的壓縮包 2、解壓到指定位置并重命名 tar -zxvf apache-flume-1.9.0-bin.tar.gz3、配置環境并生效 #vi ~/.bashrc export FLUME_HOME/usr/local/APP/flume export PATH$PATH:$FLUME_HOME/bin #使變量設置生效 #sour…

MIPCache 域名升級

一、MIPCache URL 是什么 舉個例子&#xff0c;MIP 官網的 URL 為&#xff1a; https://www.mipengine.org 對應的 MIPCache 的 URL 為&#xff1a; https://mipcache.bdstatic.com/c/s/www.mipengine.org 所謂 MIPCache URL 是經過 MIP-Cache CDN 緩存后的 MIP 頁面地址&…