大數據集群搭建之hadoop、tomcat、jdk等工具的安裝(三)

  • 目錄
    • 一、準備的資源:
    • 二、安裝配置過程

目錄

本章就說下各種軟件的安裝和配置。

一、準備的資源:

1、tomcat(如用于在網頁上查看HDFS的存儲等)
地址:http://pan.baidu.com/s/1miC93ny
密碼:52dd
2、jdk
地址:http://pan.baidu.com/s/1mhVWiM0
密碼:fmn1
3、Hadoop(最好用centos6.5系統,否則配置時會出現各種BUG)
地址:http://pan.baidu.com/s/1qXXPUdm
密碼:5zqe

二、安裝配置過程

在安裝這些軟件之前,再介紹個比較好用的軟件給大家
SecureCRT7.3.3 x64(SSH工具):http://pan.baidu.com/s/1gfzm7Fd
密碼:5zy0
先說下這個軟件,這個軟件是安裝在windows環境下,用于在Windows環境下通過SSH協議來控制Linux系統。
簡單介紹下使用的過程:
打開軟件按照下圖進行操作
這里寫圖片描述

按照以上操作完畢后,你就可以在右邊的命令行下來控制Linux,該軟件支持命令行的命令粘貼等功能,詳細的使可以自行百度。
接下來介紹各個軟件的安裝:

1、安裝JDK

1.上傳jdk-7u45-linux-x64.tar.gz到Linux上
2.解壓jdk到/usr/local目錄
tar -zxvf jdk-7u45-linux-x64.tar.gz -C /usr/local/
3.設置環境變量,在/etc/profile文件最后追加相關內容
vi /etc/profile
export JAVA_HOME=/usr/local/jdk1.7.0_45
export PATH=PATH:PATH:JAVA_HOME/bin
4.刷新環境變量
source /etc/profile
5.測試java命令是否可用
java -version

2、安裝Tomcat

1.上傳apache-tomcat-7.0.68.tar.gz到Linux上
2.解壓tomcat
tar -zxvf apache-tomcat-7.0.68.tar.gz -C /usr/local/
3.啟動tomcat
/usr/local/apache-tomcat-7.0.68/bin/startup.sh
./startup.sh
4.查看tomcat進程是否啟動
jps
5.查看tomcat進程端口
netstat -anpt | grep 2465
6.通過瀏覽器訪問tomcat
http://192.168.0.101:8080/
這里寫圖片描述

3、安裝hadoop

先上傳hadoop的安裝包到服務器上去/home/hadoop/
注意:hadoop2.x的配置文件$HADOOP_HOME/etc/hadoop
偽分布式需要修改5個配置文件

3.1配置hadoop第一個:hadoop-env.sh
vim hadoop-env.sh
#第27行
export JAVA_HOME=/usr/java/jdk1.7.0_65
    第二個:core-site.xml<!-- 指定HADOOP所使用的文件系統schema(URI),HDFS的老大(NameNode)的地址 --><property><name>fs.defaultFS</name><value>hdfs://weekend-1206-01:9000</value></property><!-- 指定hadoop運行時產生文件的存儲目錄 --><property><name>hadoop.tmp.dir</name><value>/home/hadoop/hadoop-2.4.1/tmp</value></property>第三個:hdfs-site.xml   <!-- 指定HDFS副本的數量 --><property><name>dfs.replication</name><value>1</value></property><property><name>dfs.secondary.http.address</name><value>192.168.1.152:50090</value></property>第四個:mapred-site.xml (mv mapred-site.xml.template mapred-site.xml)mv mapred-site.xml.template mapred-site.xmlvim mapred-site.xml<!-- 指定mr運行在yarn上 --><property><name>mapreduce.framework.name</name><value>yarn</value></property>第五個:yarn-site.xml<!-- 指定YARN的老大(ResourceManager)的地址 --><property><name>yarn.resourcemanager.hostname</name><value>weekend-1206-01</value></property><!-- reducer獲取數據的方式 --><property><name>yarn.nodemanager.aux-services</name><value>mapreduce_shuffle</value></property>3.2將hadoop添加到環境變量vim /etc/proflieexport JAVA_HOME=/usr/java/jdk1.7.0_65export HADOOP_HOME=/itcast/hadoop-2.4.1export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbinsource /etc/profile3.3格式化namenode(是對namenode進行初始化)hdfs namenode -format (hadoop namenode -format)3.4啟動hadoop先啟動HDFSsbin/start-dfs.sh再啟動YARNsbin/start-yarn.sh3.5驗證是否啟動成功使用jps命令驗證27408 NameNode28218 Jps27643 SecondaryNameNode28066 NodeManager27803 ResourceManager27512 DataNodehttp://192.168.1.101:50070 (HDFS管理界面)http://192.168.1.101:8088 (MR管理界面)

這里寫圖片描述

在下面的章節中會介紹下HDFS的原理和基本操作等知識

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/456806.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/456806.shtml
英文地址,請注明出處:http://en.pswp.cn/news/456806.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

pycharm 快捷鍵大全

1、編輯&#xff08;Editing&#xff09; Ctrl Space 基本的代碼完成&#xff08;類、方法、屬性&#xff09; Ctrl Alt Space 快速導入任意類 Ctrl Shift Enter 語句完成 Ctrl P 參數信息&#xff08;在方法中調用參數&#xff09; Ctrl Q 快速查看文檔 F1 Web幫…

轉載 Spark性能優化指南——基礎篇

前言 在大數據計算領域&#xff0c;Spark已經成為了越來越流行、越來越受歡迎的計算平臺之一。Spark的功能涵蓋了大數據領域的離線批處理、SQL類處理、流式/實時計算、機器學習、圖計算等各種不同類型的計算操作&#xff0c;應用范圍與前景非常廣泛。在美團?大眾點評&#xff…

JavaScript 判斷變量是否為數組Array的方法

1. 不能用typeof &#xff0c;因為typeof 只能判斷基本類型&#xff0c;不能判斷引用類型 var ary [1,23,4];console.log(typeof ary); //輸出結果是Object上面的辦法并不能實時的檢測出是否是數組&#xff0c;只能判斷其類型&#xff0c;所以說typeof判斷基本類型數據還是挺好…

require.js用法簡介

一、為什么要用require.js&#xff1f; 最早的時候&#xff0c;所有Javascript代碼都寫在一個文件里面&#xff0c;只要加載這一個文件就夠了。后來&#xff0c;代碼越來越多&#xff0c;一個文件不夠了&#xff0c;必須分成多個文件&#xff0c;依次加載。下面的網頁代碼&…

Pycharm新建文件時自動添加基礎信息

# -*- coding: utf-8 -*- # Time : ${DATE} ${TIME} # Author : Liu # File : ${NAME}.py 如下圖所示 再建一個py文件時就會自動添加信息&#xff1a; # -*- coding: utf-8 -*- # Time : 2019/05/05 11:46 # Author : Liu # File : DOUBAN.py

JTLParser-linux上jmeter的jtl文件二次分析

解析JMeter的JTL文件 2013年01月30日 ? 綜合 ? 共 1452字 ? 字號 小 中 大 ? 評論關閉http://code.google.com/p/xtoolkit/wiki/JTLParser Introduction 當把JMeter使用命令行運行后&#xff0c;JMeter會把結果保存到一個指定文件中&#xff08;使用 -l 參數指定&#xff0…

php過濾html標簽截取部分內容

<?php$str <span>fdsfsdf</span><a href"#">href</a>; echo htmlspecialchars($str).<Br>; echo strip_tags($str);?>用strip_tags能把Html標簽都去掉&#xff0c;然后調用truncate函數 $array[$row[content_id]][content_ti…

解決python3 UnicodeEncodeError: 'gbk' codec can't encode character '\xXX' in position XX

從網上抓了一些字節流&#xff0c;想打印出來結果發生了一下錯誤&#xff1a; UnicodeEncodeError: gbk codec cant encode character \xbb in position 8530: illegal multibyte sequence 代碼 import urllib.request resurllib.request.urlopen(http://www.baidu.com) ht…

Linux中的crontab詳解

linux系統則是由 cron (crond) 這個系統服務來控制的。Linux 系統上面原本就有非常多的計劃性工作&#xff0c;因此這個系統服務是默認啟動的。另外, 由于使用者自己也可以設置計劃任務&#xff0c;所以&#xff0c; Linux 系統也提供了使用者控制計劃任務的命令 :crontab 命令…

centos7如何安裝cloud-init

cloud-init rpm包下載地址&#xff1a;https://pkgs.org/download/cloud-init http://www.rpmfind.net/linux/RPM/index.html 轉載于:https://www.cnblogs.com/double12gzh/p/10166131.html

實現一個簡單的前端水印

需求分析 水印效果如下&#xff1a; 除了直觀需求&#xff0c;還有非直觀需求。 這是個背景圖。文字樣式以及文字本身可調整。對于需求1&#xff0c;需要前端生成圖片的能力。 該能力的原理&#xff1a;借用canvas.toDataURL()或者(new XMLSerializer()).serializeToString()生…

QQ客服聊天功能網頁跳轉只需要幾行代碼

<html><head><meta charset"utf-8"></head><body><a target"_blank" href"http://wpa.qq.com/msgrd?v3&uin客服QQ號&siteqq&menuyes"><img border"0" src"http://wpa.qq.co…

HDU 2234 IDA*

無題I Time Limit: 10000/10000 MS (Java/Others) Memory Limit: 32768/32768 K (Java/Others)Total Submission(s): 1648 Accepted Submission(s): 640 Problem Description一天機器人小A在玩一個簡單的智力游戲&#xff0c;這個游戲是這樣的&#xff0c;在一個4*4的矩陣…

Linux環境下Mysql的安裝教程及安裝過程常見問題的解決方法

最近安裝mysql時看到一篇不錯的文章 1、下載 下載地址&#xff1a;http://dev.mysql.com/downloads/mysql/5.6.html#downloads 下載版本&#xff1a;我這里選擇的5.6.33&#xff0c;通用版&#xff0c;linux下64位 也可以直接復制64位的下載地址&#xff0c;通過命令下載&a…

最全的微信小程序源代碼

wx-gesture-lock 微信小程序的手勢密碼 WXCustomSwitch 微信小程序自定義 Switch 組件模板 WeixinAppBdNovel 微信小程序demo&#xff1a;百度小說搜索 shitoujiandaobu 小程序&#xff1a;石頭剪刀布&#xff08;附代碼說明&#xff09; audiodemo 微信小程序開發之視頻播…

java 雙重檢查加鎖弊端

http://blog.csdn.net/axman/article/details/1089196 Java是在語言級提供對線程的支持,所以Java的內存模型分為主存儲器和工作存儲器. [Main memory]主存儲器就是實例所在的存儲區域,所有實例本身都被放在主存儲器中,當然這 句話本身就說明了實例的字段也在主存儲器中,主存儲器…

爬蟲的復習手冊

爬蟲的概念 模擬瀏覽器發送請求&#xff0c;獲取響應 爬蟲的流程 url---》發送請求&#xff0c;獲取響應---》提取數據---》保存 發送請求&#xff0c;獲取響應---》提取url&#xff08;下一頁&#xff0c;詳情頁&#xff09;重新請求 爬蟲要根據當前url地址對應的響應為準 …

Hive安裝報錯:Unable to instantiate org.apache.hadoop.hive.ql.metadata.SessionHiveMetaStoreClient的解決辦法

最近練習Hive&#xff0c;安裝時爆出如下錯誤&#xff1a;Unable to instantiate org.apache.hadoop.hive.ql.metadata.SessionHiveMetaStoreClient的錯誤 報錯的日志如下&#xff1a; Exception in thread "main" java.lang.RuntimeException: java.lang.RuntimeE…

要讀

http://www.cnblogs.com/yangml/p/3828878.html轉載于:https://www.cnblogs.com/qinqiu/p/6134683.html

Spark分布式集群的搭建和運行

集群共三臺CentOS虛擬機&#xff0c;一個Matser&#xff0c;主機名為master&#xff1b;三個Worker&#xff0c;主機名分別為master、slave03、slave04。前提是Hadoop和Zookeeper已經安裝并且開始運行。 1. 在master上下載Scala-2.11.0.tgz&#xff0c;復制到/opt/下面&#xf…