搭建hadoop+spark完全分布式集群環境

目錄

一、集群規劃

二、更改主機名

 三、建立主機名和ip的映射

四、關閉防火墻(master,slave1,slave2)

五、配置ssh免密碼登錄

六、安裝JDK

七、hadoop之hdfs安裝與配置

1)解壓Hadoop

2)修改hadoop-env.sh

3)修改 core-site.xml

4)修改hdfs-site.xml

5) 修改slave

八、配置hadoop環境變量

九、將hadoop拷貝到其他主機、

十、格式化元數據目錄

十一、下載安裝spark

十二、配置文件修改

1)復制模板文件

2)配置spark-env.sh(增加環境變量)

3) 配置slaves

4) 將master配置好的spark 拷貝到slave1,slave2

5) 配置環境變量

6)啟動與驗證

7)提交jar 包并觀察驗證

一、集群規劃

主機名

操作系統

地址

角色

硬件配置

master

Centos

10.1.0.248

namenode

2g 1核

slaver1

Centos

10.1.0.94

datanode

1g 1核

slaver2

Centos

10.1.0.31

datanode

1g 1核

二、更改主機名

分別修改主機名文件(重啟永久生效)

sudo vi  /etc/sysconfig/network

 三、建立主機名和ip的映射

sudo vi /etc/hosts

 拷貝到slave1和slave2中

四、關閉防火墻(master,slave1,slave2

關閉防火墻:sudo service iptables stop  

關閉防火墻自啟:sudo chkconfig iptables off

五、配置ssh免密碼登錄

ssh-keygen -t rsa

ssh-copy-id mast

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/web/44837.shtml
繁體地址,請注明出處:http://hk.pswp.cn/web/44837.shtml
英文地址,請注明出處:http://en.pswp.cn/web/44837.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

【進階篇-Day9:JAVA中單列集合Collection、List、ArrayList、LinkedList的介紹】

目錄 1、集合的介紹1.1 概念1.2 集合的分類 2、單列集合:Collection2.1 Collection的使用2.2 集合的通用遍歷方式2.2.1 迭代器遍歷:(1)例子:(2)迭代器遍歷的原理:(3&…

排序——交換排序

在上篇文章我們詳細介紹了排序的概念與插入排序,大家可以通過下面這個鏈接去看: 排序的概念及插入排序 這篇文章就介紹一下一種排序方式:交換排序。 一,交換排序 基本思想:兩兩比較,如果發生逆序則交換…

jenkins系列-09.jpom構建java docker harbor

本地先啟動jpom server agent: /Users/jelex/Documents/work/jpom-2.10.40/server-2.10.40-release/bin jelexjelexxudeMacBook-Pro bin % sh Server.sh start/Users/jelex/Documents/work/jpom-2.10.40/agent-2.10.40-release/bin jelexjelexxudeMacBook-Pro bin % ./Agent.…

達夢數據庫的系統視圖v$sessions

達夢數據庫的系統視圖v$sessions 達夢數據庫(DM Database)是中國的一款國產數據庫管理系統,它提供了類似于Oracle的系統視圖來監控和管理數據庫。V$SESSIONS 是達夢數據庫中的一個系統視圖,用于顯示當前數據庫會話的信息。 以下…

全自主巡航無人機項目思路:STM32/PX4 + ROS + AI 實現從傳感融合到智能規劃的端到端解決方案

1. 項目概述 本項目旨在設計并實現一款高度自主的自動巡航無人機系統。該系統能夠按照預設路徑自主飛行,完成各種巡航任務,如電力巡線、森林防火、邊境巡邏和災害監測等。 1.1 系統特點 基于STM32F4和PX4的高性能嵌入式飛控系統多傳感器融合技術實現精…

MYSQL--第八次作業

MYSQL–第八次作業 一、備份與恢復 環境搭建: CREATE DATABASE booksDB; use booksDB;CREATE TABLE books ( bk_id INT NOT NULL PRIMARY KEY, bk_title VARCHAR(50) NOT NULL, copyright YEAR NOT NULL );CREATE TABLE authors ( auth_id INT NOT NULL PRI…

geoServer在windows中下載安裝部署詳細操作教程

這里寫目錄標題 1.安裝環境檢查2.下載安裝包(1)進入下載地址:(2)以下載最新版為例,點擊“Stable GeoServer”下載(3)安裝有兩種方式(4)我這里選擇下載war包 3…

python作業三

1.使用requests模塊獲取這個json文件http://java-api.super-yx.com/html/hello.json 2.將獲取到的json轉為dict 3.將dict保存為hello.json文件 4.用io流寫一個copy(src,dst)函數,復制hello.json到C:\hello.json import json import shutilimport requests #使用requests模塊獲…

Qt MV架構-視圖類

一、基本概念 在MV架構中,視圖包含了模型中的數據項,并將它們呈現給用戶。數據項的表示方法,可能和數據項在存儲時用的數據結構完全不同。 這種內容與表現分離之所以能夠實現,是因為使用了 QAbstractItemModel提供的一個標準模…

`nmap`模塊是一個用于與Nmap安全掃描器交互的庫

在Python中,nmap模塊是一個用于與Nmap安全掃描器交互的庫。Nmap(Network Mapper)是一個開源工具,用于發現網絡上的設備和服務。雖然Python的nmap模塊可能不是官方的Nmap庫(因為Nmap本身是用C/C編寫的)&…

基于JavaSpringBoot+Vue+uniapp微信小程序校園宿舍管理系統設計與實現

基于JavaSpringBootVueuniapp微信小程序實現校園宿舍管理系統設計與實現 目錄 第一章 緒論 1.1 研究背景 1.2 研究現狀 1.3 研究內容 第二章 相關技術介紹 2.1 Java語言 2.2 HTML網頁技術 2.3 MySQL數據庫 2.4 Springboot 框架介紹 2.5 VueJS介紹 2.6 ElementUI介紹…

視頻轉換、提取音頻、視頻加水印、視頻去水印、音頻轉換、分割合并壓縮等,批量還幾乎免費

「想轉就轉視頻音頻助手」免費版來襲! 在數字化時代,視頻和音頻處理已成為我們日常生活的一部分。無論是制作個人視頻博客、編輯家庭影片,還是處理音頻文件,我們都在尋找一個強大而易于使用的解決方案。今天,我要向您…

基于大語言模型(LLM)的合成數據生成、策展和評估的綜述

節前,我們星球組織了一場算法崗技術&面試討論會,邀請了一些互聯網大廠朋友、參加社招和校招面試的同學。 針對算法崗技術趨勢、大模型落地項目經驗分享、新手如何入門算法崗、該如何準備、面試常考點分享等熱門話題進行了深入的討論。 合集&#x…

【JVM實戰篇】內存調優:內存泄露危害+內存監控工具介紹+內存泄露原因介紹

文章目錄 內存調優內存溢出和內存泄漏內存泄露帶來什么問題內存泄露案例演示內存泄漏的常見場景場景一場景二 解決內存溢出的方法常用內存監控工具Top命令優缺點 VisualVM軟件、插件優缺點監控本地Java進程監控服務器的Java進程(生產環境不推薦使用) Art…

【圖解大數據技術】流式計算:Spark Streaming、Flink

【圖解大數據技術】流式計算:Spark Streaming、Flink 批處理 VS 流式計算Spark StreamingFlinkFlink簡介Flink入門案例Streaming Dataflow Flink架構Flink任務調度與執行task slot 和 task EventTime、Windows、WatermarksEventTimeWindowsWatermarks 批處理 VS 流式…

如何查找電腦的MAC地址

一. 什么是mac地址? mac地址本質上幫助我們連接到我們遇到的大多數本地網絡。每個網絡適配器通常由網絡接口??控制器(NIC) 制造商分配一個唯一的 mac 地址。 二. 如何查找mac地址 1.點擊網絡和Internet設置 2.點擊WLAN點擊硬件屬性 3.即可查看mac地址

智慧城市3d數據可視化系統提升信息匯報的時效和精準度

在信息大爆炸的時代,數據的力量無可估量。而如何將這些數據以直觀、高效的方式呈現出來,成為了一個亟待解決的問題。為此,我們推出了全新的3D可視化數據大屏系統,讓數據“躍然屏上”,助力您洞察先機,決勝千…

從零開始實現大語言模型(五):縮放點積注意力機制

1. 前言 縮放點積注意力機制(scaled dot-product attention)是OpenAI的GPT系列大語言模型所使用的多頭注意力機制(multi-head attention)的核心,其目標與前文所述簡單自注意力機制完全相同,即輸入向量序列 x 1 , x 2 , ? ? , x n x_1, x_2, \cdots, x_n x

pytorch訓練的時候 shm共享內存不足,導致訓練停止

1.查看shm情況 df -h /dev/shm內存已經滿了,因為之前訓練多次訓練意外停止到shm中的緩存不能及時被清理 2、手動清理shm 依然沒被釋放 3、查看關聯的進程,一個一個kill lsof |grep deletedkill -9 46619 44618 44617 。。。。。4、搞定

Spring @Scheduled學習

一. Jdk中的定時任務 我們平時在 Spring 項目中會使用 Scheduled 開啟定時任務; jdk 中其實也提供了定時任務線程池 ScheduledThreadPool,我們可以直接通過 Executors 工具類獲取; // 創建了核心線程數為 2 的 ScheduledThreadPool 對象 S…