【Hive】——安裝部署

1 MetaData(元數據)

在這里插入圖片描述
在這里插入圖片描述

2 MetaStore (元數據服務)

在這里插入圖片描述

3 MetaStore配置方式

在這里插入圖片描述
在這里插入圖片描述

3.1 內嵌模式

在這里插入圖片描述
在這里插入圖片描述

3.2 本地模式

在這里插入圖片描述
在這里插入圖片描述

3.3 遠程模式

在這里插入圖片描述
在這里插入圖片描述

4 安裝前準備

在這里插入圖片描述在這里插入圖片描述

    <!-- 整合hive --><property><name>hadoop.proxyuser.root.hosts</name><value>*</value></property><property><name>hadoop.proxyuser.root.groups</name><value>*</value></property>

5 遠程模式安裝

5.1 下載

https://hive.apache.org/

5.2 解壓并重命名

tar -zxvf apache-hive-3.1.2-bin.tar.gz -C /opt/module/
cd /opt/module/
mv mv apache-hive-3.1.2-bin hive

5.3 解決hadoop、hive 之間的guava版本差異問題

 cd /opt/module/hive/librm -f guava-19.0.jarcp /opt/module/hadoop-3.1.3/share/hadoop/common/lib/guava-27.0-jre.jar ./guava-27.0-jre.jar

5.4 添加環境變量

vi /etc/profile.d/my_env.sh
 #HIVE_HOMEexport HIVE_HOME=/opt/module/hiveexport PATH=$PATH:$HIVE_HOME/bin
source /etc/profile

5.5 hive-env.sh 修改Hive環境變量

cd /opt/module/hive/conf
mv hive-env.sh.template hive-env.sh
vim hive-env.sh
# Set HADOOP_HOME to point to a specific hadoop install directory
export HADOOP_HOME=/opt/module/hadoop-3.1.3# Hive Configuration Directory can be controlled by:
export HIVE_CONF_DIR=/opt/module/hive/conf# Folder containing extra libraries required for hive compilation/execution can be controlled by:
export HIVE_AUX_JARS_PATH=/opt/module/hive/lib

5.6 hive-log4j2.properties 日志配置

mkdir -P /opt/module/hive/datas
cd /opt/module/hive/conf
mv hive-log4j2.properties.template hive-log4j2.properties
vim hive-log4j2.properties
property.hive.log.dir = /opt/module/hive/datas

5.7 hive-site.xml 配置MateStore

添加了hive.metastore.uris 配置,則需要手動啟動Matastore服務

<?xml version="1.0" encoding="UTF-8" standalone="no"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration><!-- 存儲元數據mysql配置 --><property><name>javax.jdo.option.ConnectionURL</name><value>jdbc:mysql://hadoop102:3306/hive?createDatabaseIfNotExist=true&amp;useUnicode=true&amp;useSSL=false&amp;characterEncoding=utf8</value><description>JDBC connect string for a JDBC metastore.To use SSL to encrypt/authenticate the connection, provide database-specific SSL flag in theconnection URL.For example, jdbc:postgresql://myhost/db?ssl=true for postgres database.</description></property><property><name>javax.jdo.option.ConnectionDriverName</name><value>com.mysql.cj.jdbc.Driver</value><description>Driver class name for a JDBC metastore</description></property><property><name>javax.jdo.option.ConnectionUserName</name><value>root</value><description>Username to use against metastore database</description></property><property><name>javax.jdo.option.ConnectionPassword</name><value>123456</value><description>password to use against metastore database</description></property><!-- H2S運行綁定host --><property><name>hive.server2.thrift.bind.host</name><value>hadoop102</value><description>Bind host on which to run the HiveServer2 Thrift service.</description></property><!-- 遠程模式部署metastore 服務地址 --><property><name>hive.metastore.uris</name><value>thrift://hadoop102:9083</value><description>Thrift URI for the remote metastore. Used by metastore client to connect to remotemetastore.</description></property><!-- 關閉元數據存儲授權 --><property><name>hive.metastore.event.db.notification.api.auth</name><value>false</value><description>Should metastore do authorization against database notification related APIs such asget_next_notification.If set to true, then only the superusers in proxy settings have the permission</description></property><!-- 關閉元數據存儲版本的驗證 --><property><name>hive.metastore.schema.verification</name><value>true</value><description>Enforce metastore schema version consistency.True: Verify that version information stored in is compatible with one from Hive jars. Alsodisable automaticschema migration attempt. Users are required to manually migrate schema after Hive upgradewhich ensuresproper metastore schema migration. (Default)False: Warn if the version information stored in metastore doesn't match with one from in Hivejars.</description></property>
</configuration>

5.8 上傳mysql-connector-java-5.1.27-bin.jar

基于mysql的版本上傳jar

 /opt/module/hive/lib/mysql-connector-java-5.1.27-bin.jar

5.9 初始化Matedata

cd /opt/module/hive/bin
./schematool -dbType mysql  -initSchema  --verbose

3.5.10 啟動MateStore腳本

vim hive_metastore.sh
#!/bin/bash
if [ $# -lt 1 ]; thenecho "No Args Input..."exit
ficase $1 in
"start"){echo "----------------- MetaStore start -----------------"nohup /opt/module/hive/bin/hive --service metastore >> /opt/module/hive/datas/metastore.out 2>&1 &echo "----------------- Hiveserver2 start -----------------"nohup /opt/module/hive/bin/hive --service hiveserver2 >> /opt/module/hive/datas/hiveserver2.out 2>&1 &};;
"stop"){echo "----------------- MetaStore stop -----------------"pidMetaStore=$(ps -ef | grep -v grep | grep "Dproc_metastore" | awk '{printf $2" "}')kill -9 ${pidMetaStore}echo "----------------- Hiveserver2 stop -----------------"pidHiveserver2=$(ps -ef | grep -v grep | grep "Dproc_hiveserver2" | awk '{printf $2" "}')kill -9 ${pidHiveserver2}};;
*)echo "Input Args Error...";;
esac

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/211941.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/211941.shtml
英文地址,請注明出處:http://en.pswp.cn/news/211941.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

Java+Swing: 主界面組件布局 整理9

說明&#xff1a;這篇博客是在上一篇的基礎上的&#xff0c;因為上一篇已經將界面的框架搭好了&#xff0c;這篇主要是將里面的組件完善。 分為三個部分&#xff0c;北邊的組件、中間的組件、南邊的組件 // 放置北邊的組件layoutNorth(contentPane);// 放置中間的 Jtablelayou…

Tair(3):Tair入門demo

新建一個maven項目 1 導入依賴 <dependency><groupId>com.taobao.tair</groupId><artifactId>tair-client</artifactId><version>2.3.5</version></dependency><dependency><groupId>com.alibaba</groupId>…

計算日期到天數轉換

根據輸入的日期&#xff0c;計算是這一年的第幾天。 保證年份為4位數且日期合法。 輸入描述&#xff1a;輸入一行&#xff0c;空格分割&#xff0c;分別是年&#xff0c;月&#xff0c;日 輸出描述&#xff1a;輸出是這一年的第幾天 輸入&#xff1a;2012 12 31 輸出&#xff…

Python計時器

制作一個簡單的Python計時器 在本教程中&#xff0c;我們將學習如何使用Python制作一個基礎的計時器。這個計時器將能夠開始計時、暫停、繼續和重置時間。 設計思路 為了建立一個計時器&#xff0c;我們需要定義一個能夠跟蹤時間的變量&#xff0c;并且定期更新顯示的時間。…

Linux權限(用戶角色+文件權限屬性)

Linux權限 文章目錄 Linux權限一.文件權限1.快速掌握修改權限的方法&#xff08;修改文件權限屬性&#xff09;2.對比權限的有無&#xff0c;以及具體的體現3.修改權限的第二套方法&#xff08;修改用戶角色&#xff09;4.文件類型&#xff08;Linux下一切皆文件&#xff09; 二…

049:VUE 引入jquery的方法和配置

第049個 查看專欄目錄: VUE ------ element UI 專欄目標 在vue和element UI聯合技術棧的操控下&#xff0c;本專欄提供行之有效的源代碼示例和信息點介紹&#xff0c;做到靈活運用。 &#xff08;1&#xff09;提供vue2的一些基本操作&#xff1a;安裝、引用&#xff0c;模板使…

springboot基礎(80):redis geospatial的應用

文章目錄 前言redis geospatial如何從地圖上獲取經緯度springboot 的相關方法調用準備redis服務器引用的依賴預設位置的keyGEOADD 添加位置GEORADIUS 獲取指定經緯度附件的停車場&#xff08;deprecated&#xff09;GEORADIUS 獲取指定成員附件的停車場&#xff08;deprecated&…

文心一言API(高級版)使用

文心一言API高級版使用 一、百度文心一言API(高級版)二、使用步驟1、接口2、請求參數3、請求參數示例4、接口 返回示例 三、 如何獲取appKey和uid1、申請appKey:2、獲取appKey和uid 四、重要說明 一、百度文心一言API(高級版) 基于百度文心一言語言大模型的智能文本對話AI機器…

歸并排序--分治法

代碼 #include<iostream> using namespace std;void merge(int arr[], int p, int q, int r, int temp[]) {int i p;int j q 1;int k 0;while (i < q && j < r){if (arr[i] < arr[j]){temp[k] arr[i];}else{temp[k] arr[j];}}while (i < q){t…

智能優化算法應用:基于蟻獅算法3D無線傳感器網絡(WSN)覆蓋優化 - 附代碼

智能優化算法應用&#xff1a;基于蟻獅算法3D無線傳感器網絡(WSN)覆蓋優化 - 附代碼 文章目錄 智能優化算法應用&#xff1a;基于蟻獅算法3D無線傳感器網絡(WSN)覆蓋優化 - 附代碼1.無線傳感網絡節點模型2.覆蓋數學模型及分析3.蟻獅算法4.實驗參數設定5.算法結果6.參考文獻7.MA…

ptmalloc:從內存虛擬化說起

前言 本文并不局限于ptmalloc的原理&#xff0c;而是從linux的內存虛擬化和系統調用原理出發&#xff0c;結合各種語言實現&#xff0c;講明內存分配方面的trade off&#xff0c;力圖事無巨細&#xff0c;追根究底。本文內容包括但不限于&#xff1a;NIO原理、0拷貝原理、內存…

Redis 數據的持久化 RDB、AOF、RDB + AOF、No persistence 各自優缺點

文章目錄 一、RDB (Redis Database)1.1 RDB 優勢1.2 RDB 缺點1.3 RDB 如何工作1.4 RDB配置1.5 開啟/關閉&#xff0c;RDB快照策略&#xff0c;save指令1.6 持久化硬盤文件&#xff0c;dbfilename指令1.7 持久化硬盤文件的存儲地址&#xff0c;dir指令 二、AOF (Append Only Fil…

leetcode:643. 子數組最大平均數 I(滑動窗口)

一、題目 鏈接&#xff1a;643. 子數組最大平均數 I - 力扣&#xff08;LeetCode&#xff09; 函數原型&#xff1a; double findMaxAverage(int* nums, int numsSize, int k) 二、思路 滑動窗口&#xff1a; 先計算數組前k個元素總和&#xff0c;作為第一個窗口&#xff0c;默…

vlog如何降低重復率

大家好&#xff0c;今天來聊聊vlog如何降低重復率&#xff0c;希望能給大家提供一點參考。 以下是針對論文重復率高的情況&#xff0c;提供一些修改建議和技巧&#xff1a; vlog如何降低重復率 Vlog作為一種流行的視頻日志形式&#xff0c;常常被人們用于記錄日常生活、分享經…

pta模擬題——7-34 刮刮彩票

“刮刮彩票”是一款網絡游戲里面的一個小游戲。如圖所示&#xff1a; 每次游戲玩家會拿到一張彩票&#xff0c;上面會有 9 個數字&#xff0c;分別為數字 1 到數字 9&#xff0c;數字各不重復&#xff0c;并以 33 的“九宮格”形式排布在彩票上。 在游戲開始時能看見一個位置上…

Lambda表達式規則,用法

Lambda表達式是JDK8新增的一種語法格式 1.作用 簡化匿名內部類的代碼寫法 Lambad用法前提&#xff1a;只能簡化函數式接口&#xff08;一般加有Funcationallnterface&#xff09;&#xff08;有且僅有一個抽象方法&#xff09;的匿名內部類 匿名內部類&#xff1a;(本質是對…

url轉pdf或者html轉pdf工具 — iText實現url轉pdf

url轉pdf或者html轉pdf工具 — iText實現url轉pdf 參考資料&#xff1a; https://kb.itextpdf.com/itext/can-i-generate-a-pdf-from-a-url-instead-of-from-a- http://www.micmiu.com/opensource/expdoc/itext-pdf-demo/ https://blog.51cto.com/u_16237557/7263784 iText&…

sensitive-word 敏感詞/臟詞開源工具-v.0.10.0-臟詞分類標簽支持

sensitive-word sensitive-word 基于 DFA 算法實現的高性能敏感詞工具。 創作目的 實現一款好用敏感詞工具。 基于 DFA 算法實現&#xff0c;目前敏感詞庫內容收錄 6W&#xff08;源文件 18W&#xff0c;經過一次刪減&#xff09;。 后期將進行持續優化和補充敏感詞庫&…

幾種常用的壓力測試工具

1. JMeter 官網: Apache JMeter簡介: Apache JMeter 是一個開源軟件&#xff0c;主要用于性能測試和壓力測試。它可以用來測試靜態和動態資源&#xff0c;如文件、Web服務、REST API等。下載與使用: 訪問官網下載安裝包。解壓安裝包并運行 JMeter。通過創建測試計劃來設置壓力…

2023年終總結-輕舟已過萬重山

自我介紹 高考大省的讀書人 白&#xff0c;隴西布衣&#xff0c;流落楚、漢。-與韓荊州書 我來自孔孟故里山東濟寧&#xff0c;也許是小學時的某一天&#xff0c;我第一次接觸到了電腦&#xff0c;從此對它產生了強烈的興趣&#xff0c;高中我有一個愿望&#xff1a;成為一名計…