剖析管理所有大數據組件的可視化利器:Hue

歡迎關注大數據和人工智能技術文章發布的微信公眾號:清研學堂,在這里你可以學到夜白(作者筆名)精心整理的筆記,讓我們每天進步一點點,讓優秀成為一種習慣!

剖析管理所有大數據組件的可視化利器:Hue

日常的大數據使用都是在服務器命令行中進行的,可視化功能僅僅依靠各個組件自帶的web界面來實現,不同組件對應不同的端口號,如:HDFS(50070),Yarn(8088),Hbase(16010)等等,而大數據的組件又有很多,為了解決某個問題,常常需要結合多個組件來使用,但是每個組件又有獨立的web界面進行可視化,這時,如果有一個統一的web界面來管理并可以開發所有大數據的組件是非常方便的,而Hue正是這樣的工具,它管理的大數據組件包括:HDFS、HBase、Hive、Pig、Sqoop、Spark、Scala等等幾乎所有常用的組件。

(一)、HUE的介紹:

HUE是一個開源的Apache hadoop UI系統,管理hadoop生態體系結構的所有組件,基于python web框架Django實現,由Cloudera開發

HUE的tar包是源碼包,采用源碼安裝 (源碼安裝的好處:卸載和移植軟件方便)

源碼安裝三步驟:

1、配置:./configure --preifix=安裝的目錄 #檢測系統配置,生成makefile文件 如果有makefile文件,直接進行編譯和安裝

2、編譯:make

3、安裝:make install

HUE的http服務端口:8888

二、安裝和配置HUE:

安裝HUE前,需要安裝它所需要的rpm包及其依賴(27個),否則HUE運行會報錯 rpm包:redhat軟件包管理器 存放在redhat光盤Packages目錄下

rpm包與tar.gz/.tgz、.bz2的區別:

rpm形式的軟件包安裝、升級、卸載方便,推薦初學者使用rpm形式的軟件包

安裝:rpm -ivh

卸載:rpm -e

tar.gz形式的軟件包安裝方便,卸載麻煩,用tar工具打包、gzip/bzip2壓縮,安裝時直接調用gzip/bzip2解壓即可。如果解壓后只有單一目錄

用rm -rf命令刪除,如果解壓后分散在多個目錄,必須手動一一刪除

安裝:tar -zxvf *.tar.gz/ tar -yxvf *.bz2

卸載:rm -rf/手動刪除

一、安裝rpm包:

方法:使用yum安裝rpm包

yum:能夠從指定的資源庫(repository)自動下載、安裝、升級rpm包及其依賴,必須要有可靠的資源庫(repository)

1、掛載光盤 mount /dev/cdrom /mnt

mount命令:掛載硬盤/光盤/iso文件到指定目錄下,訪問其中的數據

2、建立yum資源庫

cd /etc/yum.repos.d #yum資源庫默認所在的目錄

vim redhat7.repo

[redhat-yum] 資源庫的標識

name=redhat7 資源庫的名字

baseurl=file:///mnt 資源庫的位置

enabled=1 啟用資源庫

gpgcheck=0 不檢查資源庫中的rpm包是否是官方的

3、執行下面的語句:

yum install gcc g++ libxml2-devel libxslt-devel cyrus-sasl-devel cyrus-sasl-gssapi mysql-devel python-devel python-setuptools sqlite-devel ant ibsasl2-dev libsasl2-modules-gssapi-mit libkrb5-dev libtidy-0.99-0 mvn openldap-dev libffi-devel gmp-devel openldap-devel

(二)、安裝HUE:

解壓:tar -zxvf hue-4.0.1.tgz

指定安裝目錄安裝:PREFIX=/root/training make install

注:如果不指定prefix,可執行文件默認安裝到/usr/local/bin中,配置文件默認安裝到/usr/local/etc中,庫文件默認安裝到/usr/local/lib中,其他文件默認安裝到/usr/local/share中

注:HUE的tar包是源碼包,采用源碼安裝

三、配置HUE:

剖析管理所有大數據組件的可視化利器:Hue

1、與hadoop集成:1、開啟hdfs的web功能 2、允許HUE操作hdfs

<!--開啟hdfs的web功能-->

<property>

<name>dfs.webhdfs.enabled</name>

<value>true</value>

</property>

<!--設置hadoop集群root的代理用戶-->

<property>

<name>hadoop.proxyuser.root.hosts</name>

<value>*</value>

</property>

<!--設置hadoop集群root的代理用戶組-->

<name>hadoop.proxyuser.root.groups</name>

<value>*</value>

</property>

3、添加一個新用戶并授權:hue要對/root/training/hue有訪問權限

adduser hue

chown -R hue.hue /root/training/hue

4、修改配置文件hue.ini($HUE_HOME/desktop/conf):

http_hosts 192.168.182.11

http_port 192.168.182.11

server_user root

server_group root

default_user root

default_hdfs_superuser root

fs_defaulfs hdfs://192.168.182.11:9000

webhdfs_url http://192.168.182.11:50070/webhdfs/v1

hadoop_conf_dir /root/training/hadoop-2.7.3/etc/hadoop

resourcemanager_host 192.168.182.11

resourcemanager_api_url http://192.168.182.11:8088

proxy_api_url http://192.168.182.11:8088

history_server_api_url http://192.168.182.11:19888

二、與HBase集成:

1、修改配置文件hue.ini:

hbase_clusters=(Cluster|192.168.182.11:9090)

hbase_conf_dir=/root/training/hbase-1.3.1/conf

剖析管理所有大數據組件的可視化利器:Hue

三、與Hive集成:

hive_server_host=192.168.182.11

hive_server_port=10000

hive_conf_dir=/root/training/apache-hive-2.3.0-bin/conf

(三)、啟動HUE:

1、啟動hadoop:start-all.sh hue就可以訪問hadoop

2、啟動hbase:start-hbase.sh

3、啟動hbase的thrift server:hbase-daemon.sh start thrift hue就可以訪問hbase

4、啟動hive的元信息存儲:hive --service metastore(表示前臺運行) hue就可以訪問hive的元信息

5、啟動hive的thrift server:hiveserver2 &(表示后臺運行) hue就可以訪問hive

6、啟動hue:bin/supervisor($HUE_HOME/build/env)

作者:李金澤,清華大學在讀碩士,研究方向:大數據和人工智能

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/452511.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/452511.shtml
英文地址,請注明出處:http://en.pswp.cn/news/452511.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

Django博客--5.讓博客支持 Markdown 語法和代碼高亮

文章目錄0.前言1.安裝 Python Markdown2.在 detail 視圖中解析 Markdown3.safe 標簽4.代碼高亮5.效果展示0.前言 Markdown 是一種 HTML 文本標記語言&#xff0c;只要遵循它約定的語法格式&#xff0c;Markdown 的解析工具就能夠把 Markdown 文檔轉換為標準的 HTML 文檔&#…

耦合

模塊的獨立性很重要&#xff0c;因為有效的模塊化(即具有獨立的模塊)的軟件比較容易開發出來。 獨立的模塊比較容易測試和維護。 模塊的獨立程度可以由兩個定性標準度量&#xff0c;這兩個標準分別稱為內聚和耦合。 耦合 耦合是對一個軟件結構內不同模塊之間互連程度的度量。…

成為更優秀的開發人員:第二步-知道你的核心競爭力

編者按&#xff1a;原文作者羅布沃林&#xff08;Rob Walling&#xff09;從事Web應用開發10年之久&#xff0c;擔任過業內顧問、自由開發人員和全球最大的信用卡預付公司City of Pasadena的開發經理。現居住于加州中部城市弗雷斯諾&#xff08;Fresno&#xff09;。關注并指導…

android 字體間間隔,TextView設置行間距、字體間距

一、設置行間距1、設置行間距&#xff1a;android:lineSpacingExtra&#xff0c;取值范圍&#xff1a;正數、負數和0&#xff0c;正數表示增加相應的大小&#xff0c;負數表示減少相應的大小&#xff0c;0表示無變化2、設置行間距的倍數&#xff1a;android:lineSpacingMultipl…

破解mysql數據庫的密碼

發現的1小問題 語句打錯以后應該退出本語句,再繼續打新語句.也可以打\c,退出本語句. 如何破解數據庫的密碼: 1:通過任務管理器或者服務管理,關掉mysqld(服務進程) 2:通過命令行特殊參數開啟mysqld Mysqld --skip-grant-tables 3:此時,mysqld服務進程已經打開,并且,不需要權限檢…

Diango博客--6.Markdown 文章自動生成目錄

文章目錄0.思路引導1.在文中插入目錄2.在頁面的任何地方插入目錄3.美化標題的錨點 URL0.思路引導 Markdown 在解析內容的同時還可以自動提取整個內容的目錄結構&#xff0c;本文內容將從以下幾個方面展開&#xff1a; 1&#xff09;在文中插入目錄&#xff1b; 2&#xff09;在…

Java中對象和引用的理解

2019獨角獸企業重金招聘Python工程師標準>>> 偶然想起Java中對象和引用的基本概念&#xff0c;為了加深下對此的理解和認識&#xff0c;特地整理一下相關的知識點&#xff0c;通過具體實例從兩者的概念和區別兩方面去更形象的認識理解&#xff0c;再去記憶。12一、對…

android怎樣封裝,如何封裝屬于自己的博客網站安卓APP 源碼家園

說實話我今天在寫這個文章的時候是我使用易語言(E4A\易安卓)的第一天&#xff0c;我也是易小白&#xff0c;但是的確可以用&#xff01;我為什么寫這個文章呢&#xff1f;因為之前我也想封裝自己的網站&#xff0c;然后去網上找的在線封裝生成APP&#xff0c;果然能封裝好了&am…

程序員常犯的5個非技術性錯誤

一個好的軟件開發人員需要培養兩種技能&#xff1a;技術技能和非技術技能。不幸的是一些開發者只注重技術的部分&#xff0c;以致養成一些陋習&#xff0c;下面是最常犯的5個非技術性錯誤&#xff1a; 0. 缺乏自律 Jim Rohn曾經說過&#xff1a;自律是目標和成果之間的橋梁。我…

Redis進階實踐之二十 Redis的配置文件使用詳解

一、引言   寫完上一篇有關redis使用lua腳本的文章&#xff0c;就有意結束Redis這個系列的文章了&#xff0c;當然了&#xff0c;這里的結束只是我這個系列的結束&#xff0c;但是要學的東西還有很多。但是&#xff0c;好多天過去了&#xff0c;總是感覺好像還缺點什么…

web流程設計器 工作流的 整合視頻教程 activiti畫圖 SSM和獨立部署

本視頻為activiti工作流的web流程設計器整合視頻教程整合Acitiviti在線流程設計器(Activiti-Modeler 5.21.0 官方流程設計器&#xff09;本視頻共講了兩種整合方式1. 流程設計器和其它工作流項目分開部署的方式2. 流程設計器和SSM框架項目整合在一起的方式視頻大小 1.13 GB ~【…

Diango博客--7.自動生成文章摘要

文章目錄0.思路引導1.方法一&#xff1a;覆寫 save 方法2.方法二&#xff1a;使用 truncatechars 模板過濾器0.思路引導 博客文章的模型有一個 excerpt 字段&#xff0c;這個字段用于存儲文章的摘要。 若在 django admin 后臺手動為文章輸入摘要&#xff0c;每次手動輸入摘要…

android 增加觸摸范圍,android seekBar 增加點擊和滑動范圍

seekBar的的范圍有限&#xff0c;有時候設計師要求高度為4dp&#xff0c;此時范圍太小&#xff0c;很難滑動成功。因此&#xff0c;我們需要在不改變 UI 的前提下&#xff0c;增加點擊和滑動范圍。直接上代碼&#xff1a;public class MainActivity extends AppCompatActivity …

特斯拉股價暴跌,瘋狂燒錢是否真的能夠帶來高額回報?

“瘋狂燒錢”并不能成為公司持續虧損的理由&#xff0c;反而可能成為公司升級轉型的關鍵所在。 上周三&#xff0c;特斯拉發布第四季度財報&#xff0c;其后特斯拉CEO馬斯克在電話會議上表示&#xff0c;特斯拉虧損收窄&#xff0c;營收同比增長88%&#xff0c;但與此同時其首…

android gravity參數,Gravity - [ Android中文手冊 ] - 在線原生手冊 - php中文網

Gravity版本&#xff1a;Android 4.0 r1結構繼承關系public class Gravity extends Objectjava.lang.Objectandroid.view.Gravity類概述用來在一個更大容器中布置對象的標準常量和工具。常量public static final intAXIS_CLIP原始位控制右/底邊界是否被剪切到它的容器中&#x…

Diango博客--8.解鎖博客側欄

文章目錄0.思路引導1.[最新文章] 模板標簽2.[歸檔] 模板標簽3.[分類] 模板標簽4.[標簽云] 模板標簽5.使用自定義的模板標簽0.思路引導 博客側邊欄有四項內容&#xff1a;最新文章、歸檔、分類和標簽云&#xff0c;效果展示如下&#xff1a; 這些內容相對比較固定和獨立&…

十五、詳述 IntelliJ IDEA 插件的安裝及使用方法

正文 首先&#xff0c;進入插件安裝界面&#xff1a; Mac&#xff1a;IntelliJ IDEA -> Preferences -> Plugins;Windows&#xff1a;File -> Settings -> Plugins.標注 1&#xff1a;顯示 IntelliJ IDEA 的插件分類&#xff0c; All plugins&#xff1a;顯示 Inte…

編程巨星的唯一秘訣

別以為是那些軟件開發定律&#xff0c;別以為是開發出那些特殊用途的軟件&#xff0c;別以為是軟件設計技術本身。只有一條真理決定了一個軟件程序員的成功還是失敗。由于堅持這個真理&#xff0c;一個資深的程序員能在一天的時間里學會一門新的編程語言&#xff0c;而由于不堅…

面向數據流的設計方法

面向數據流的設計方法的目標是給出設計軟件結構的一個系統化的途徑。 在軟件工程的需求分析階段&#xff0c;信息流是一個關鍵考慮。通常用數據流圖描繪信息在系統中加工和流動的 情況。面向數據流的設計方法定義了一些不同的“映射”&#xff0c;利用這些映射可以把數據流圖…