單機簡單搭建一個kafka集群(沒有進行內核參數和JVM的調優)

1.JDK安裝

  在我的部署單節點kafka的博客里有相關的方法。(https://www.cnblogs.com/ToBeExpert/p/9789486.html?)zookeeper和kafka的壓縮包下載地址也在單節點部署的這篇博客里。

1.zookeeper集群的搭建

  將zookeeper.tar.gz解壓為三個目錄,例如:

  以上圖中的目錄結構為例,進入./zookeeper-1/conf。找到zoo.cfg文件,如果沒有就復制一份zoo_sample.cfg并將其改名為zoo.cfg,zoo.cfg是zookeeper的配置文件。如下:

  在部署zookeeper集群之前,一定要記得將已經運行的zookeeper節點停止。現在修改zoo.cfg的配置。

# The number of milliseconds of each tick
tickTime=2000
# The number of ticks that the initial 
# synchronization phase can take
initLimit=10
# The number of ticks that can pass between 
# sending a request and getting an acknowledgement
syncLimit=5
# the directory where the snapshot is stored.
# do not use /tmp for storage, /tmp here is just 
# example sakes.
dataDir=/usr/zookeeper/zookeeper-1/zkData
dataLogDir=/usr/zookeeper/zookeeper-1/zkLogs
# the port at which the clients will connect
clientPort=2181# the maximum number of client connections.
# increase this if you need to handle more clients
#maxClientCnxns=60
#
# Be sure to read the maintenance section of the 
# administrator guide before turning on autopurge.
#
# http://zookeeper.apache.org/doc/current/zookeeperAdmin.html#sc_maintenance
#
# The number of snapshots to retain in dataDir
#autopurge.snapRetainCount=3
# Purge task interval in hours
# Set to "0" to disable auto purge feature
#autopurge.purgeInterval=1server.0=172.20.25.100:2890:3890
zoo.cfg

  配置項含義:

tickTime:
這個時間是作為 Zookeeper 服務器之間或客戶端與服務器之間維持心跳的時間間隔,也就是每個tickTime時間就會發送一個心跳。
initLimit:
這個配置項是用來配置 Zookeeper 接受客戶端(這里所說的客戶端不是用戶連接 Zookeeper 服務器的客戶端,而是 Zookeeper 服務器集群中連接到 Leader 的 Follower 服務器)初始化連接時最長能忍受多少個心跳時間間隔數。當已經超過 5個心跳的時間(也就是tickTime)長度后 Zookeeper 服務器還沒有收到客戶端的返回信息,那么表明這個客戶端連接失敗。總的時間長度就是 5*2000=10 秒
syncLimit:
這個配置項標識 Leader 與Follower 之間發送消息,請求和應答時間長度,最長不能超過多少個tickTime的時間長度,總的時間長度就是5*2000=10秒
dataDir:
快照日志的存儲路徑
dataLogDir:
事物日志的存儲路徑,如果不配置這個那么事物日志會默認存儲到dataDir制定的目錄,這樣會嚴重影響zk的性能,當zk吞吐量較大的時候,產生的事物日志、快照日志太多
clientPort:
這個端口就是客戶端連接 Zookeeper 服務器的端口,Zookeeper 會監聽這個端口,接受客戶端的訪問請求。如果是單機部署zookeeper集群(偽集群),每一個zookeeper節點的zoo.cfg中的clientPort都要互不相同。server.id=ip:port1:port2:
server.id中的id是一個數字,同一個集群中的id不能重復,它代表這這個節點在集群中的身份,具體的使用方法是,要在dataDir配置所指定的目錄下(這個目錄必須要存在)創建一個名為myid的文件,假設集群的id為{id1,id2,id3},那么我們可以使用命令:echo "id1">myid,將id1分配給當前的結點,注意這里的{id1,id2,id3}必須是server.id中出現過的id,每個節點被分配的id不能重復。ip指的是集群所在服務器的ip地址,假如是在A、B、C三臺物理機上部署集群,其ip分別為ipA、ipB、ipC,那么部署方法是:
server.1=ipA:port1:port2
server.2=ipB:port1:port2
server.3=ipC:port1:port2
在ip的后面緊跟著兩個端口,第一個端口是master和slave之間的通信端口,默認是2888,第二個端口是leader選舉的端口,集群剛啟動的時候選舉或者leader掛掉之后進行新的選舉的端口默認是3888。單機部署的時候,集群節點列表中的port1、port2互不相同。(你可以把上面的server.1、server.2、server.3視為一個節點列表)

  接下來,進入每個節點的bin目錄,例如./zookeeper-1/bin/。然后使用命令:

sh zkServer.sh start

  zookeeper的運行日志保存在bin目錄下的zookeeper.out中。如果運行失敗,可以查看此文件,找到出錯的問題再想辦法解決。

  zookeeper集群搭建時不能馬上使用sh zkServer.sh status來查看節點的命令,因為zookeeper節點之間還有一系列的工作需要做。你需要在三個結點都啟動之后再等一會兒才能使用該命令來檢查各個zookeeper節點是否成功啟動。

  如上圖,Mode:follower表示這是一個從結點,這代表該節點已經啟動成功。

  Zookeeper集群搭建完畢之后,可以通過客戶端腳本連接到zookeeper集群上面,對客戶端來說,zookeeper集群是一個整體,連接到zookeeper集群實際上感覺在獨享整個集群的服務。

  在節點1進行測試:執行命令sh zkCli.sh -server IP:port? IP和port是你要連接的目標節點的IP地址和clientport。

  如上圖表示已經成功連接到zookeeper集群了,要退出客戶端只需要輸入quit,回車即可。

3.kafka集群搭建

  下載項目的壓縮包,在服務器上創建三個文件夾(單機),每個目錄里包含的內容都是一樣的,只有配置上會有所不同,如下:

  上面一共有3個目錄,依次進入,修改config子目錄下broker的配置文件:server.properties。修改完成后,依次進入三個目錄的子目錄bin目錄執行命令:

sh ./bin/kafka-server-start.sh -daemon ./config/server.properties 
#具體的命令執行要看你當時所處的位置

  然后使用jps命令可以查看你的kafka集群是否啟動成功。

?  搭建kafka集群的操作主要是配置的問題,一個是zookeeper的相關配置,另一個是logs存儲路徑的配置。其它沒什么了。

轉載于:https://www.cnblogs.com/ToBeExpert/p/10469253.html

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/248420.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/248420.shtml
英文地址,請注明出處:http://en.pswp.cn/news/248420.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

[翻譯]三張卡片幫你記住TDD的基本原則

原文地址:http://blog.briandicroce.com/2008/03/14/three-index-cards-to-easily-remember-the-essence-of-test-driven-development/ 當我瀏覽ObjectMentor的博客的時候,其中一篇Tim Ottinger的“TDD on Three Index Cards”引起了我的注意。他回憶了他…

異常 try catch finally return 執行關系 MD

Markdown版本筆記我的GitHub首頁我的博客我的微信我的郵箱MyAndroidBlogsbaiqiantaobaiqiantaobqt20094baiqiantaosina.com異常 try catch finally return 執行關系 MD 目錄 目錄探討finally語句的執行與return的關系探討finally語句的執行與return的關系 Java異常捕獲機制try.…

Java數據結構之線性表(2)

從這里開始將要進行Java數據結構的相關講解,Are you ready?Lets go~~ java中的數據結構模型可以分為一下幾部分: 1.線性結構 2.樹形結構 3.圖形或者網狀結構 接下來的幾張,我們將會分別講解這幾種數據結構,主要也是通過Java代碼的…

涼哥核心圈程序員必備十大圖書推薦(一)

寫在前面 涼哥核心圈程序員必備十大圖書推薦(一),各位伙伴應該一目了然了哈,沒錯涼哥準備出一系列圖書推薦的文章,其實很多朋友在私下問涼哥除了大學的課程外自己要不要讀一些技術類的書籍呢,答案當時要的…

了解大數據的特點、來源與數據呈現方式

本次作業來源于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE1/homework/2639 1.瀏覽2019春節各種大數據分析報告,例如: 這世間,再無第二個國家有能力承載如此龐大的人流量。http://www.sohu.com/a/290025769_313993春節人口遷…

MYSQL中只知表名查詢屬于哪個SCHEMA

只知道表名XXX查該表屬于哪個schema、以及該表有哪些列等信息SELECT * from information_schema.columns WHERE table_name xxx; 只知道列名XXX查哪個schema有該列、以及有列名為XXX的表有哪些等SELECT * from information_schema.columns WHERE column_name XXX;參考鏈接&am…

ACCESS SQL語法參考

ACCESS SQL語法參考 一. 基礎概念 可以使用的數據類型如下: 1. TEXT:文本型(指定長度時),備注型(不指定長度時); 2. CHAR,NCHAR,VARCHAR&#xff0…

強大而優雅,API 研發管理 EOLINKER 新版正式發布!

EOLINKER 于2019年3月3日正式發布新版本!該版本大幅強化各個產品的功能、著重優化了全站的用戶交互體驗,并且EOLINKER AMS 產品正式更名為 EOLINKER API Studio ——API 工作室,旨在為您提供API文檔管理、自動化測試以及開發協作等全方位服務…

關注視聊效果!中星微攝像頭對比測試

不知不覺中,一種小型的數碼產品不聲不響的潛入了大多數網民的家庭——攝像頭,這種令網絡世界變得活潑、生動、直觀的小東西給我們帶來了一陣視頻的風,它的背后隱藏著什么?讓我們揭開背后的秘密,撩起那視頻的面紗。 現今…

MarkDown語法-使用博客園的markDown編輯

一個是一個大標題 兩個是一個小標題 是三級標題 最高階標題加下劃線 高階標題加雙下劃線 是二階標題二階標題區塊引用blockquotes 換行也是沒有關系的啦啦啦啦啦啦啦啦綠綠綠綠綠綠綠綠綠綠綠綠綠綠綠綠綠綠綠綠綠綠啦啦啦啦啦啦啦啦綠綠了 區塊引用可以嵌套 嵌套 標題區塊引用…

版本控制--搭建 GitLab 服務器

GitLab 簡介 GitLab 是利用 Ruby On Rails 一個開源的版本管理系統,實現一個自托管的 Git 項目倉庫,可通過 Web 界面進行訪問公開的或者私人項目。它擁有與 GitHub 類似的功能,能夠瀏覽源代碼,管理缺陷和注釋。可以管理團隊對倉庫…

MATLAB 與 Excel 接口

MATLAB 與 Excel 接口MATLAB 與 Excel 有兩種接口方式:一種是通過 MATLAB 提供的 Excel 生成器,生成220 MATLAB 實用教程DLL 組件和 VBA 代碼,實現 Excel 對 MATLAB 的調用;另一種是利用 MATLAB 提供的 Excellink 插件&#xff0c…

計算 1+2!+3!+4!+...20!=?

package algs.factorial;import java.math.BigInteger;/*** Author: areful* Date: 2019/3/6* 計算 sum(n!), n1,2, ... 20*/ public class NFactorial {public static void main(String[] args) {System.out.println(calcFactorial0(3));System.out.println(calcFactorial1(3)…

轉大學畢業后拉開差距的原因

原文 有人工作,有人繼續上學,大家千萬不要錯過這篇文章,能看到這篇文章也是一種幸運,真的受益匪淺,對我有很大啟迪,這篇文章將會改變我的一生,真的太好了,希望與有緣人分享&…

用戶態和內核態的理解和區別

1、linux進程有4GB地址空間,如圖所示:3G-4G大部分是共享的,是內核態的地址空間。這里存放整個內核的代碼和所有的內核模塊以及內核所維護的數據。2、特權級的概念:對于任何操作系統來說,創建一個進程是核心功能。創建進…

面經-多益網絡

面試時間:2019.07.22 QQ視頻面試 面試崗位:人工智能及大數據/一面 面試時長:35分鐘 面試內容: 自我介紹項目-視頻召回實際場景題-怎么通過數學公式查找相似的數學公式對加班怎么看對比實習公司的特點主動詢問落地方向面試評價&…

區塊鏈基礎語言(三)——Go語言開發工具

一、在Windows系統安裝Goland 1.1 下載 官網地址&#xff1a;https://www.jetbrains.com/go/download/#sectionwindows 1.2 安裝 a. 雙擊“goland-2018.1.5.exe”&#xff0c;單擊“運行”&#xff0c;如圖1所示&#xff1b; <圖1> b. 如圖2所示&#xff0c;單擊“next”…

最小的K個數

最小的K個數 題目描述 輸入n個整數&#xff0c;找出其中最小的K個數。例如輸入4,5,1,6,2,7,3,8這8個數字&#xff0c;則最小的4個數字是1,2,3,4,。 未完, 待續, 好像設計堆排序 先排序在遍歷, 此處使用插曲排序 class Solution { public:void insertSort(vector<int> &am…

準備重新開始寫了

工作很忙,而且前一段時間項目組由于方向和人員調整一直很動蕩,所以就沒有心情和時間來整理技術.準備重新開張了,好好寫,爭取每個月出一到兩篇說得過去的文章.轉載于:https://www.cnblogs.com/sun/archive/2008/06/12/1218220.html

Georgia and Bob POJ - 1704 階梯Nim

$ \color{#0066ff}{ 題目描述 }$ Georgia and Bob decide to play a self-invented game. They draw a row of grids on paper, number the grids from left to right by 1, 2, 3, ..., and place N chessmen on different grids, as shown in the following figure for exampl…