Kafka 單機部署啟動教程(適用于 Spark + Hadoop 環境)

🧭 Kafka 單機部署啟動教程(適用于 Spark + Hadoop 環境)


📦 一、Kafka 版本選擇

  • 推薦使用 Kafka 2.13-2.8.1(Scala 2.13,穩定適配 Spark 3.1.2 和 Hadoop 3.1.1)

  • 下載地址(Apache 官方歸檔):

    wget https://archive.apache.org/dist/kafka/2.8.1/kafka_2.13-2.8.1.tgz
    

🗃 二、解壓并移動到安裝目錄

tar -zxvf kafka_2.13-2.8.1.tgz
mv kafka_2.13-2.8.1 /opt/module/kafka

? 三、配置環境變量

編輯 ~/.bashrc

# Kafka
export KAFKA_HOME=/opt/module/kafka
export PATH=$PATH:$KAFKA_HOME/bin

使其生效:

source ~/.bashrc

📝 四、配置 Kafka 和 Zookeeper(Kafka 自帶 ZK)

4.1 修改 Kafka 配置文件

vim $KAFKA_HOME/config/server.properties

重點配置如下(改為你的本機 IP):

# Kafka broker ID
broker.id=0# 日志目錄
log.dirs=/opt/module/kafka/logs# Kafka 監聽地址
listeners=PLAINTEXT://192.168.0.110:9092# Zookeeper 地址
zookeeper.connect=localhost:2181

🚀 五、啟動 Kafka 和 Zookeeper

5.1 啟動 Zookeeper

zookeeper-server-start.sh -daemon $KAFKA_HOME/config/zookeeper.properties

確認啟動成功:

netstat -tnlp | grep 2181

5.2 啟動 Kafka Server

kafka-server-start.sh -daemon $KAFKA_HOME/config/server.properties

確認監聽 9092 端口:

netstat -tnlp | grep 9092

🧪 六、創建和測試 Topic

# 創建 test topic
kafka-topics.sh --create --topic test --bootstrap-server 192.168.0.110:9092 --partitions 1 --replication-factor 1# 查看已有 topic
kafka-topics.sh --list --bootstrap-server 192.168.0.110:9092

📬 七、生產者 & 消費者測試

啟動生產者:

kafka-console-producer.sh --topic test --bootstrap-server 192.168.0.110:9092

輸入消息:

hello kafka

啟動消費者(另開終端):

kafka-console-consumer.sh --topic test --bootstrap-server 192.168.0.110:9092 --from-beginning

看到生產者輸入的消息,說明通信正常。


🛑 八、停止 Kafka 和 Zookeeper

kafka-server-stop.sh
zookeeper-server-stop.sh

🌐 九、開放防火墻端口(可選)

sudo firewall-cmd --add-port=9092/tcp --permanent
sudo firewall-cmd --add-port=2181/tcp --permanent
sudo firewall-cmd --reload

? 十、總結

服務端口啟動命令
Zookeeper2181zookeeper-server-start.sh -daemon config/zookeeper.properties
Kafka Broker9092kafka-server-start.sh -daemon config/server.properties
Kafka UI推薦后續部署 Kafka UI 如 Kafka Manager、Kowl 等

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/web/82490.shtml
繁體地址,請注明出處:http://hk.pswp.cn/web/82490.shtml
英文地址,請注明出處:http://en.pswp.cn/web/82490.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

C語言數組初始化方法大全(附帶實例)

在 C語言中,數組用于存儲相同類型的多個元素。數組的初始化是一個重要的概念,它允許我們在聲明數組的同時為其賦初值。 這篇文章,我將為大家詳細介紹 C語言中初始化數組的多種方法,以及一些需要注意的細節。 數組初始化的基本語…

RAMSUN分享全新超值型MM32F0050系列MCU

憑借全國產化的供應鏈優勢和可靠的國產高端工藝制程,靈動微再次推出全新超值型MM32F0050系列微控制器單元(MCU),將超值型MCU推向新的高度。 MM32F0050系列MCU配備了72MHz的Arm Cortex-M0內核,提供64KB的Flash存儲和8K…

CMS32M65xx/67xx系列CoreMark跑分測試

CMS32M65xx/67xx系列CoreMark跑分測試 1、參考資料準備 1.1、STM32官方跑分鏈接 1.2、官網鏈接 官方移植文檔,如下所示,點擊紅框處-移植文檔: A new whitepaper and video explain how to port CoreMark-Pro to bare-metal 1.3、測試軟件git下載鏈接 …

LeetCode 139. 單詞拆分(Word Break) - 動態規劃深度解析

文章目錄 問題描述動態規劃解法解法核心思路完整代碼實現關鍵代碼解析1. 數據結構初始化2. 動態規劃數組3. 核心循環邏輯4. 子串區間理解(關鍵)示例演算復雜度分析算法優化點總結本文詳細解析LeetCode 139題"單詞拆分"的動態規劃解法,涵蓋核心思路、代碼實現、區間…

獲客方式有哪些拓展方向?

品牌在面臨增長瓶頸時,如何拓展獲客方式會是一個首要考慮的問題。有些時候企業會將獲客渠道想得很復雜,其實仔細數下來,我們可以拓展的方向仍舊是根據渠道來溯源,因此相對固定。 一、跟隨流行趨勢 在數字營銷領域,緊跟…

bug:undefined is not iterable (cannot read property Symbol(Symbol.iterator))

1.如圖 2.分析 關鍵報錯提示: undefined is not iterable (cannot read property Symbol(Symbol.iterator)) 直譯: undefined是不可迭代的(不能讀取屬性Symbol(Symbol.iterator)) 理解: 有一個值、不存在&#x…

【筆記】PyCharm 使用問題反饋與官方進展速覽

#工作記錄 https://youtrack.jetbrains.com/issue/IJPL-190308 【筆記】記一次PyCharm的問題反饋_the polyglot context is using an implementation th-CSDN博客 【筆記】與PyCharm官方溝通解決開發環境問題-CSDN博客 與 JetBrains 官方溝通記錄(PyCharm 相關問題…

VSCode 工作區配置文件通用模板(CMake + Ninja + MinGW/GCC 編譯器 的 C++ 或 Qt 項目)

下面是一個通用模板,適用于大多數使用 VSCode CMake Ninja MinGW/GCC 編譯器 的 C 或 Qt 項目。你可以將這個 .vscode 文件夾復制到你的項目根目錄下,稍作路徑調整即可使用。 📁 .vscode/ 目錄結構(通用模板) .vs…

棧-20.有效的括號-力扣(LeetCode)

一、題目解析 對于這個字符串需要左右括號匹配,并且是以正確的順序 二、算法原理 解法1.圖棧 解法2.用else if代替圖棧 正常做法:對于三種左括號直接進棧((,[,{進棧),然后判斷與下一個括號是否匹配,匹配則出棧,不匹…

將音頻數據累積到緩沖區,達到閾值時觸發處理

實現了音頻處理中的 AEC(聲學回聲消除)和 AES(音頻增強)功能,其核心功能是: 數據緩沖管理:將輸入的麥克風和揚聲器音頻數據塊累積到緩沖區中塊處理機制:當緩沖區填滿預設大小&#…

fastadmin+workman環境搭建

一、出現錯誤 從git拉取到本地在配置網址登錄后出現 unserialize(): Error at offset 0 of 17039 bytes 參考:https://blog.csdn.net/yqwwj001/article/details/88688675 找到 \thinkphp\library\think\cache\driver\Flie.php 中的 $content substr($content, …

若依+vue2實現模擬登錄

1、背景 第三方通過鏈接訪問若依項目&#xff0c;該鏈接通過攜帶唯一標識符&#xff1a;phone&#xff08;手機號&#xff09;&#xff0c;項目通過手機號查詢本項目數據庫人員信息實現模擬登錄。 2、實現 2.1. 前端實現 2.1.1 創建專用模擬登錄頁面PhoneLogin.vue <te…

【2025】使用docker compose一鍵部署項目到服務器(4)

目錄&#x1f4bb; 前言一、部署準備二、本地idea配置docker和docker compose執行器三、編寫docker-compose.yml文件四、執行啟動 前言 該篇文章主要是使用idea通過docker-compose.yml構建容器集合并且進行統一管理更新 該專欄主要為介紹通過docker compose實現容器編排部署 &…

Linux Windows之wsl安裝使用簡介

參考資料 如何使用 WSL 在 Windows 上安裝 Linuxwindows11 安裝WSL2全流程舊版 WSL 的手動安裝步驟 目錄 一. 前期準備1.1 確認windows的版本1.2 開啟Linux子系統的支持1.2.1 圖形化方式1.2.2 命令行方式 1.3 安裝wsl軟件1.4 安裝Linux分發版 二. 基本配置2.1 Windows Termina…

matlab模糊控制實現路徑規劃

路徑規劃是機器人和自動駕駛系統中的重要問題之一&#xff0c;它涉及確定如何在給定環境中找到最優路徑以達到特定目標。模糊控制是一種有效的控制方法&#xff0c;可以應用于路徑規劃問題。 路徑規劃算法的目標是在避免障礙物的情況下&#xff0c;找到機器人或車輛從起點到終…

OpenHarmony 5.0橫豎屏界面適配

目錄 一.背景 二.修改位置 三.參考文檔 一.背景 由于需要一套代碼適配橫屏和豎屏設備,所以有些數值的大小可能在豎屏上面適配,在橫屏上面不那么適配了,所以需要橫屏特殊的數值大小(例如:寬高) 二.修改位置 在resources資源文件中新建橫屏適配的文件夾,然后新建自己需…

AlphaFold3服務器安裝與使用(非docker)(1)

1. 服務器顯卡驅動準備 這部分我會詳細記錄一下我踩過的坑及怎樣拯救的&#xff0c;原諒啰嗦啦 ^_^ 1.1 服務器舊配置 1.1.1 nvidia-smi [xxxxxxlocalhost ~]# nvidia-smi Thu May 29 20:54:00 2025 -------------------------------------------------------------…

Java異步編程難題拆解技術

目錄 ?編輯 異步編程的核心概念 Java異步編程的主要實現方式 異步編程的常見難題 解決異步編程難題的策略 性能優化與調試技巧 實際案例分析 未來發展趨勢 異步編程的核心概念 同步與異步的區別阻塞與非阻塞的差異Java異步編程的常見場景&#xff08;如網絡請求、文件…

第五期書生大模型實戰營-《L1G1-玩轉書生大模型 API 之 Browser-Use 實踐》

一、 搭建環境 pip install requests openai 1.2、獲取API https://internlm.intern-ai.org.cn/api/tokens 1.3 運行API from openai import OpenAI from dotenv import load_dotenv import osfrom openai import OpenAI from dotenv import load_dotenv import os# Inter…

基于Web的安全漏洞分析與修復平臺設計與實現

基于Web的安全漏洞分析與修復平臺設計與實現 摘要 隨著信息化進程的加快&#xff0c;Web系統和企業IT架構愈發復雜&#xff0c;安全漏洞頻發已成為影響系統安全運行的主要因素。為解決傳統漏洞掃描工具定位不準確、修復建議不完善、響應周期長等問題&#xff0c;本文設計并實…