- 目錄
- 前言:
- 1、集群部署的基本流程
- 2、Storm常用操作命令(了解)
- 3、Storm集群的進程及日志熟悉(知道對應的日志的位置出了問題知道去哪找原因)
- 4、Storm源碼目錄分析(重要)
- 總結:
目錄
前言:
這里先簡單說一下Storm的安裝的主要步驟,還會介紹下Storm的常用的操作指令以及各個進程對應的日志信息,之后會簡單介紹下Storm的源碼目錄。
1、集群部署的基本流程
集群部署的流程:下載安裝包、解壓安裝包、修改配置文件、分發安裝包、啟動集群(其他集群部署通用的流程)
下載和解壓安裝包在這里就省略,直接進入修改配置文件
1.3、修改配置文件
vi /export/servers/storm/conf/storm.yaml
輸入以下內容:
#指定storm使用的zk集群
storm.zookeeper.servers:- "shizhan"- "mini2"- "mini3"
#指定storm本地狀態保存地址
storm.local.dir: "/root/apps/storm/workdir"
#指定storm集群中的nimbus節點所在的服務器
nimbus.host: "shizhan"
#指定nimbus啟動JVM最大可用內存大小
nimbus.childopts: "-Xmx1024m"
#指定supervisor啟動JVM最大可用內存大小
supervisor.childopts: "-Xmx1024m"
#指定supervisor節點上,每個worker啟動JVM最大可用內存大小
worker.childopts: "-Xmx768m"
#指定ui啟動JVM最大可用內存大小,ui服務一般與nimbus同在一個節點上。
ui.childopts: "-Xmx768m"
#指定supervisor節點上,啟動worker時對應的端口號,每個端口對應槽,每個槽位對應一個worker
supervisor.slots.ports:- 6700- 6701- 6702- 6703
1.4、分發安裝包
scp -r /export/servers/apache-storm-0.9.5 storm02:/export/servers
1.5、啟動集群(后臺啟動)
在nimbus.host所屬的機器上啟動 nimbus服務
cd /export/servers/storm/bin/
nohup ./storm nimbus &
在nimbus.host所屬的機器上啟動ui服務
cd /export/servers/storm/bin/
nohup ./storm ui &
在其它個點擊上啟動supervisor服務
cd /export/servers/storm/bin/
nohup ./storm supervisor &
1.6、查看集群
訪問nimbus.host:/8080,即可看到storm的ui界面。
2、Storm常用操作命令(了解)
有許多簡單且有用的命令可以用來管理拓撲,它們可以提交、殺死、禁用、再平衡拓撲。
- 提交任務命令格式:storm jar 【jar路徑】 【拓撲包名.拓撲類名】 【拓撲名稱】
bin/storm jar examples/storm-starter/storm-starter-topologies-0.9.6.jar storm.starter.WordCountTopology wordcount - 殺死任務命令格式:storm kill 【拓撲名稱】 -w 10(執行kill命令時可以通過-w [等待秒數]指定拓撲停用以后的等待時間)
storm kill topology-name -w 10 - 停用任務命令格式:storm deactivte 【拓撲名稱】
storm deactivte topology-name
我們能夠掛起或停用運行中的拓撲。當停用拓撲時,所有已分發的元組都會得到處理,但是spouts的nextTuple方法不會被調用。銷毀一個拓撲,可以使用kill命令。它會以一種安全的方式銷毀一個拓撲,首先停用拓撲,在等待拓撲消息的時間段內允許拓撲完成當前的數據流。 啟用任務命令格式:storm activate【拓撲名稱】
storm activate topology-name重新部署任務命令格式:storm rebalance 【拓撲名稱】
storm rebalance topology-name
再平衡使你重分配集群任務。這是個很強大的命令。比如,你向一個運行中的集群增加了節點。再平衡命令將會停用拓撲,然后在相應超時時間之后重分配工人,并重啟拓撲。
3、Storm集群的進程及日志熟悉(知道對應的日志的位置出了問題知道去哪找原因)
3.1、部署成功之后,啟動storm集群。
依次啟動集群的各種角色
3.2、查看nimbus的日志信息
在nimbus的服務器上
cd /export/servers/storm/logs
tail -100f /export/servers/storm/logs/nimbus.log
3.3、查看ui運行日志信息
在ui的服務器上,一般和nimbus一個服務器
cd /export/servers/storm/logs
tail -100f /export/servers/storm/logs/ui.log
3.4、查看supervisor運行日志信息
在supervisor服務上
cd /export/servers/storm/logs
tail -100f /export/servers/storm/logs/supervisor.log
3.5、查看supervisor上worker運行日志信息
在supervisor服務上
cd /export/servers/storm/logs
tail -100f /export/servers/storm/logs/worker-6702.log
4、Storm源碼目錄分析(重要)
擴展包中的三個項目,使storm能與hbase、hdfs、kafka交互
總結:
以上的一些知識只是作為一個了解,目的為了讓你在以后的工作或學習中用到相關的技能時,能夠直接上手。