Kafka 4.0.0集群部署
1.1 關閉防火墻和 selinux
關閉防火墻
systemctl stop firewalld.service
systemctl disable firewalld.service
關閉selinux
setenforce 0 #(臨時生效)
sed -i 's/^SELINUX=enforcing/SELINUX=disabled/' /etc/selinux/config #(永久生效)
1.2 檢查是否已經安裝OpenJDK
rpm -qa|grep jdk #如果安裝先卸載jdk
下載jdk:
官網:https://www.oracle.com/java/technologies/javase-jdk8-downloads.html
選擇jdk版本上傳到服務器解壓,這里我用的是jdk1.8.0版本
tar -xvf jdk-24.0.1-linux-x64.tar.gz
mv /usr/local/jdk-24.0.1 /usr/localvim /etc/profileexport JAVA_HOME=/usr/local//usr/local/jdk-24.0.1
export PATH=$PATH:$JAVA_HOME/binsource /etc/profilejava -version (檢查一下jdk版本查看是否安裝成功)
1.3 Kafka集群安裝
1.3.1 下載安裝包
Kafka官網下載:http://kafka.apache.org/downloads
或者wget,下載 https://dlcdn.apache.org/kafka/4.0.0/kafka_2.13-4.0.0.tgz
1.3.2 新建一個Kafka-cluster目錄,將安裝Kafka-cluster目錄下
cd /usr/local
mkdir kafka-cluster
1.3.3 解壓安裝包,重命名
tar zxvf kafka_2.13-4.0.0.tgz
mv kafka_2.13-4.0.0 kafka
1.3.4 修改配置文件
cd /usr/local/kafka-cluster/kafka/config/
cp server.properties kraft-server.properties
vi kraft-server.properties
node.id=1節點修改內容如下:
node.id=1controller.quorum.voters=1@192.168.1.151:9093,2@192.168.1.152:9093,3@192.168.1.153:9093
controller.quorum.bootstrap.servers=192.168.1.151:9093,192.168.1.152:9093,192.168.1.153:9093listeners=PLAINTEXT://192.168.1.151:9092,CONTROLLER://192.168.1.151:9093
inter.broker.listener.name=PLAINTEXTadvertised.listeners=PLAINTEXT://192.168.1.151:9092,CONTROLLER://192.168.1.151:9093
controller.listener.names=CONTROLLERlog.dirs=/data/kafka-logs
1.3.5 其他節點配置
其他節點配置相同,除以下內容:
node.id=2 #唯一 (確定id值是唯一)
listeners=PLAINTEXT://192.168.1.152:9092,CONTROLLER://192.168.1.152:9093 #修改為本機地址
1.3.6 啟動
cd /usr/local/kafka-cluster/kafka
在任意節點運行:
bin/kafka-storage.sh random-uuid
得到類似結果:
e3b24c36-7e24-4173-9732-bd92ad45b3ab
# 示例(node.id 為 1):
bin/kafka-storage.sh format \--cluster-id e3b24c36-7e24-4173-9732-bd92ad45b3ab \--config config/kraft-server.propertiescd /usr/local/kafka-cluster/kafka/bin
bin/kafka-server-start.sh config/server.properties
可以發現在窗口啟動之后是一個阻塞進程,會阻塞當前窗口,我們可以重新打開一個窗口進行接下來的操作,或者在啟動kafka的時候使用 -daemon 參數將它聲明為守護進程后臺運行。
bin/kafka-server-start.sh -daemon config/server.properties
到這一步kafka已經是部署完成了
1.3.7 使用JMX監控Kafka
vim /usr/local/kafka-cluster/kafka/bin/kafka-server-start.sh
在這個字段加入export JMX_PORT="9999"
1.3.8 Kafka自啟動設置
cd /lib/systemd/system/
vim kafka.service
添加一下內容:
[Unit]
Description=Apache Kafka Server (KRaft mode)
After=network.target[Service]
Type=simple
Environment="JAVA_HOME=/usr/lib/jvm/java-17-openjdk"
ExecStart=/usr/local/kafka-cluster/kafka/bin/kafka-server-start.sh /usr/local/kafka-cluster/kafka/config/kraft-server.properties
ExecStop=/usr/local/kafka-cluster/kafka/bin/kafka-server-stop.sh
Restart=on-failure
User=root
LimitNOFILE=100000[Install]
WantedBy=multi-user.target
保存退出,刷新一下
systemctl daemon-reload
systemctl start kafka
systemctl enable kafka
systemctl status kafka