CloudberryDB(一)安裝部署多節點分布式數據庫集群

CloudberryDB:? ? 一個 Greenplum Database 分布式數據庫開源版本的衍生項目,

針對開源 Greenplum Database 優化的地方, CloudberryDB制定了路線圖(https://github.com/orgs/cloudberrydb/discussions/369)并在逐步改進 。

GitHub 地址:https://github.com/cloudberrydb/cloudberrydb


?官網主頁:https://cloudberrydb.org/

官方文檔:產品特性 | Apache Cloudberry (Incubating)

準備部署的3臺服務器信息如下:

[root@dfq-cloudberrydb-01 ~]# cat /etc/os-release 
NAME="Rocky Linux"
VERSION="8.6 (Green Obsidian)"
ID="rocky"
ID_LIKE="rhel centos fedora"
VERSION_ID="8.6"
PLATFORM_ID="platform:el8"
PRETTY_NAME="Rocky Linux 8.6 (Green Obsidian)"
ANSI_COLOR="0;32"
CPE_NAME="cpe:/o:rocky:rocky:8:GA"
HOME_URL="https://rockylinux.org/"
BUG_REPORT_URL="https://bugs.rockylinux.org/"
ROCKY_SUPPORT_PRODUCT="Rocky Linux"
ROCKY_SUPPORT_PRODUCT_VERSION="8"
REDHAT_SUPPORT_PRODUCT="Rocky Linux"
REDHAT_SUPPORT_PRODUCT_VERSION="8"

通過源碼編譯CloudberryDB

下載CloudberryDB源碼:

git clone https://github.com/cloudberrydb/cloudberrydb.git
cd cloudberrydb
git checkout 1.5.3

安裝依賴項

sudo dnf groupinstall -y "Development Tools"
sudo dnf install -y epel-releasesudo dnf install -y apr-devel bison bzip2-devel cmake3 flex gcc gcc-c++ krb5-devel libcurl-devel libevent-devel libkadm5  libxml2-devel libzstd-devel openssl-devel perl-ExtUtils-Embed python3-devel python3-pip readline-devel xerces-c-devel zlib-devel~/cloudberrydb/deploy/build/README.Rhel-Rocky.bashpip3.9 install -i https://pypi.tuna.tsinghua.edu.cn/simple -r ~/cloudberrydb/python-dependencies.txt

編譯CloudberryDB,設置安裝路徑為/usr/local/cloudberrydb

cd cloudberrydb
./configure --with-perl --with-python --with-libxml --with-gssapi --prefix=/usr/local/cloudberrydb
make -j8
make install

部署前的準備

下面的步驟需要在三臺服務器都一次執行一次,使用root用戶來執行命令

解壓編譯好的CloudberryDB安裝包到/usr/local目錄下,然后使用下面的命令分別修改每臺服務器的主機名:

hostnamectl set-hostname dfq-cloudberrydb-0x

禁用SELINUX和防火墻

setenforce 0
systemctl stop firewalld
systemctl disable firewalld

修改/etc/hosts文件,包含CloudberryDB所有主機別名與其網絡IP地址的映射:

10.197.165.181 dfq-cloudberrydb-01
10.197.165.182 dfq-cloudberrydb-02
10.197.165.183 dfq-cloudberrydb-03

配置內核參數,在/etc/sysctl.conf文件中添加下面的參數:

# kernel.shmall = _PHYS_PAGES / 2
kernel.shmall = 197951838
# kernel.shmmax = kernel.shmall * PAGE_SIZE
kernel.shmmax = 810810728448
kernel.shmmni = 4096
vm.overcommit_memory = 2
vm.overcommit_ratio = 95
net.ipv4.ip_local_port_range = 10000 65535
kernel.sem = 250 2048000 200 8192
kernel.sysrq = 1
kernel.core_uses_pid = 1
kernel.msgmnb = 65536
kernel.msgmax = 65536
kernel.msgmni = 2048
net.ipv4.tcp_syncookies = 1
net.ipv4.conf.default.accept_source_route = 0
net.ipv4.tcp_max_syn_backlog = 4096
net.ipv4.conf.all.arp_filter = 1
net.ipv4.ipfrag_high_thresh = 41943040
net.ipv4.ipfrag_low_thresh = 31457280
net.ipv4.ipfrag_time = 60
net.core.netdev_max_backlog = 10000
net.core.rmem_max = 2097152
net.core.wmem_max = 2097152
vm.swappiness = 10
vm.zone_reclaim_mode = 0
vm.dirty_expire_centisecs = 500
vm.dirty_writeback_centisecs = 100
vm.dirty_background_ratio = 0
vm.dirty_ratio = 0
vm.dirty_background_bytes = 1610612736
vm.dirty_bytes = 4294967296kernel.core_pattern=/var/core/core.%h.%t

執行下面的命令使參數生效:

sysctl -p

資源限制設置,在/etc/security/limits.conf文件中添加下面的參數,對軟硬件資源用量進行限制:

*soft nofile 524288
*hard nofile 524288
*soft nproc 131072
*hard nproc 131072* soft core unlimited

創建gpadmin管理用戶:

groupadd -g 520 gpadmin
useradd -g 520 -u 520 -m -d /home/gpadmin/ -s /bin/bash gpadmin
passwd gpadmin

編譯好的CloudberryDB軟件包在/usr/local/cloudberrydb路徑下,為gpadmin用戶授予安裝目錄的權限:

chown -R gpadmin:gpadmin /usr/local/cloudberrydb

在所有的節點安裝依賴:

sudo dnf install -y apr-devel bison bzip2-devel cmake3 epel-release flex gcc gcc-c++ krb5-devel libcurl-devel libevent-devel libkadm5 libxml2-devel libzstd-devel openssl-devel python39 python39-devel python39-psutil python3-pip perl-ExtUtils-MakeMaker.noarch perl-ExtUtils-Embed.noarch readline-devel rsync xerces-c-devel zlib-devel python3-psutil python3-pyyaml python3-psycopg2sudo yum --enablerepo=powertools install -y libyaml-develsu - gpadmin
pip3.9 install -i https://pypi.tuna.tsinghua.edu.cn/simple psutil==5.7.0 pygresql==5.2 pyyaml==5.3.1
sudo rm -rf /usr/bin/python3
sudo ln -s /usr/bin/python3.9 /usr/bin/python3

配置節點間的互信,切換到gpadmin用戶,后續的操作均使用gpadmin用戶進行:

su - gpadmin

創建節點配置信息,在/home/gpadmin/all_hosts里填入下面的信息:

dfq-cloudberrydb-01
dfq-cloudberrydb-02
dfq-cloudberrydb-03

在/home/gpadmin/seg_hosts里填入segment節點的信息:

dfq-cloudberrydb-02
dfq-cloudberrydb-03

在每臺主機上執行下面的命令生成SSH密鑰:

ssh-keygen

在每臺主機上執行下面的命令來配置免密:

ssh-copy-id dfq-cloudberrydb-01
ssh-copy-id dfq-cloudberrydb-02
ssh-copy-id dfq-cloudberrydb-03

初始化CloudberryDB

在Coordinator節點使用gpadmin用戶來操作

在所有的節點執行:

在~/.bashrc文件中添加下面的命令:

source /usr/local/cloudberrydb/greenplum_path.sh

執行下面的命令使命令生效:

source ~/.bashrc

在Coordinator節點使用下面的命令來為Segment節點創建數據目錄和mirror目錄:

gpssh -f seg_hosts
mkdir -p /data/primary
mkdir -p /data/mirror

在Coordinator節點上創建數據目錄:

mkdir -p /data/coordinator

在Coordinator節點的主機上往~/.bashrc文件中添加下面的命令:

export COORDINATOR_DATA_DIRECTORY=/data/coordinator/gpseg-1

執行下面的命令使文件生效:

source ~/.bashrc

配置啟動腳本

在Coordinator節點所在主機上,復制模板文件:

cp $GPHOME/docs/cli_help/gpconfigs/gpinitsystem_config .

修改gpinitsystem_config文件:

  1. 端口、Coordinator節點、Segment節點、Mirror節點的信息配置成之前配置的

  2. 將DATA_DIRECTORY修改為Segment計算節點的數據目錄:/data/primary

  3. 將COORDINATOR_HOSTNAME修改為dfq-cloudberrydb-01

  4. 將COORDINATOR_DIRECTORY修改為Coordinator節點數據目錄:/data/coordinator

  5. 將MIRROR_DATA_DIRECTORY修改為Mirror的數據目錄:/data/mirror

初始化CloudberryDB數據庫

在gpadmin用戶下,使用下面的命令初始化CloudberryDB:

gpinitsystem -c gpinitsystem_config -h /home/gpadmin/seg_hosts

初始化完成后,將下面的環境變量配置到~/.bashrc里

export PGDATABASE=postgres
export PGHOST=127.0.0.1
export PGUSER=gpadmin
export PGPORT=5432

重新加載~/.bashrc

source ~/.bashrc

使用psql登錄數據庫

[gpadmin@dfq-cloudberrydb-01 ~]$ psql
psql (14.4, server 14.4)
Type "help" for help.postgres=# SELECT version();version                                                                         -----------------------------------------------------------------------------------PostgreSQL 14.4 (Cloudberry Database 1.5.3+dev.57.ge1d276f80e build dev) on x86_64-pc-li
nux-gnu, compiled by gcc (GCC) 8.5.0 20210514 (Red Hat 8.5.0-22), 64-bit compiled on Jun 
19 2024 09:20:42
(1 row)

【Docker中快速部署】

1 docker?pull?registry.cn-hangzhou.aliyuncs.com/lhrbest/cbdb:1.5.4
2 docker?tag?registry.cn-hangzhou.aliyuncs.com/lhrbest/cbdb:1.5.4????lhrbest/cbdb:1.5.4
3
4
5 docker?rm?-f?cbdb
6 docker?run?-d?--name?cbdb?-h?cbdb?\
7??-p??24432:5432?-p??2422:22?\
8??-v?/sys/fs/cgroup:/sys/fs/cgroup?\
9??--privileged=true?lhrbest/cbdb:1.5.4?\
10??/usr/sbin/init
11
12
13? docker?exec?-it?cbdb?bash
14
15
16
17? su?-?gpadmin
18 ?gpstart?-a

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/web/62952.shtml
繁體地址,請注明出處:http://hk.pswp.cn/web/62952.shtml
英文地址,請注明出處:http://en.pswp.cn/web/62952.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

解決Logitech G hub 無法進入一直轉圈的方案(2024.12)

如果你不是最新版本無法加載嘗試以下方案:刪除AppData 文件夾下的logihub文件夾 具體路徑:用戶名根據實際你的請情況修改 C:\Users\Administrator\AppData\Local 如果你有通過lua編譯腳本,記得備份!! ↓如果你是最新…

數據庫范式與反范式化:如何權衡性能與數據一致性

目錄 1. 什么是數據庫范式(Normalization)?第一范式(1NF)第二范式(2NF)第三范式(3NF) 2. 什么是反范式化(Denormalization)?3. 反范式…

Nmap使用總結

0X00 背景 nmap是測試中常用的網絡探測工具,但是這回簡單的操作,一直了解不深入,現在深入的了解和學習一下。 在文章結構上,我把平時常用的內容提前了,以便再次查閱的時候,比較方便。 0X01 安裝 nmap可…

【記錄49】vue2 vue-office在線預覽 docx、pdf、excel文檔

vue2 在線預覽 docx、pdf、excel文檔 docx npm install vue-office/docx vue-demi0.14.6 指定版本 npm install vue-office/docx vue-demi <template><VueOfficeDocx :src"pdf" style"height: 100vh;" rendere"rendereHandler" error&…

MVC模式的理解和實踐

在軟件開發中&#xff0c;MVC&#xff08;Model-View-Controller&#xff09;模式是一種經典的設計模式&#xff0c;特別適用于構建用戶界面復雜的Web應用程序。MVC通過將應用程序的業務邏輯、數據顯示和用戶交互分離&#xff0c;使代碼結構更加清晰&#xff0c;易于維護和擴展…

[A-22]ARMv8/v9-SMMU多級頁表架構

ver0.1 [看前序文章有驚喜,關注W\X\G=Z+H=“浩瀚架構師”,可以解鎖全部文章] 前言 前文我們對SMMU的系統架構和基本功能做了簡要的介紹,現在大家大致對SMMU在基于ARM體系的系統架構下的總線位置和產品形態有了基本的了解。這里我們還是簡單做個前情回顧,從總線架構角度看…

【UE5 “RuntimeLoadFbx”插件】運行時加載FBX模型

前言 為了解決在Runtime時能夠直接根據FBX模型路徑直接加載FBX的問題&#xff0c;推薦一款名為“RuntimeLoadFBX”的插件。 用法 插件用法如下&#xff0c;只需要指定fbx的地址就可以在場景中生成Actor模型 通過指定輸入參數“Cal Collision”來設置FBX模型的碰撞 還可以通過…

(11)(3.1) ESC接地和接線注意事項

文章目錄 前言 1 歸納 2 電容式 3 電阻 前言 ESC 接地問題由 3 種形式的 ESC 信號/耦合問題組成&#xff0c;即電阻、電容和電感。在制造飛機時&#xff0c;應考慮這三個因素。 1 歸納 這是電流突然變化導致系統中出現大電壓尖峰的趨勢。電源系統中的電感主要是由 ESC 和…

精品基于Python實現的微信小程序校園導航系統-微信小程序

[含文檔PPT源碼等] [包運行成功永久免費答疑輔導] 《django微信小程序校園導航系統》該項目采用技術Python的django框架、mysql數據庫 &#xff0c;項目含有源碼、文檔、PPT、配套開發軟件、軟件安裝教程、項目發布教程、核心代碼介紹視頻等 軟件開發環境及開發工具&#xf…

Rstudio-server的安裝、配置、維護

一、安裝Rstudio-server (1)安裝R語言&#xff1a; sudo apt install r-base # 如果沒有管理員權限無法操作 # 這樣裝上R默認在/usr/bin/R其實基本上的流程都可以參考posit的官網&#xff08;也就是Rstudio的官網&#xff09;&#xff1a; https://posit.co/download/rstudio…

Python序列的應用(八):元組、字典

前言&#xff1a;在Python編程語言中&#xff0c;序列是一種非常重要的數據結構&#xff0c;它允許我們存儲和操作有序的數據集合。在前幾期的內容中&#xff0c;我們已經探討了列表&#xff08;List&#xff09;和集合&#xff08;Set&#xff09;這兩種序列的應用&#xff0c…

OpenCV 功能函數介紹

一&#xff0c; 二值化函數 功能&#xff1a; 用于對圖像進行二值化處理 參數&#xff1a; cv2.threshold(輸入你的圖像所對應的灰度圖&#xff0c; 閾值&#xff1a;是浮點還是整數取決予圖像的數據類型 最大值;高于閾值的像素值&#xff0c; 閾值類型&#xff1a;cv2.THR…

【Python】使用Selenium的find_element模塊獲取網頁上的大段文字和表格的方法(建議收藏!)

發現了一個使用Selenium的find_element模塊&#xff0c;快速獲取文字和表格的方法&#xff0c;很實在&#xff0c;以后爬網的時候&#xff0c;就不用beautifulSoup 和 pandas的read_html 混起來用了&#xff01; 文字部分&#xff1a;實現網絡節點下&#xff0c;某個節點下的其…

APP滲透測試記錄(一、Android應用基本構造)

Android應用基本構造 雷電模擬機進入 adb shell# 如果不是root權限 su一下 su 1.了解APK文件 安卓應用的擴展名為.apk(Android Application Package),它是一個包含多個文件和文件夾的數據存檔文件。 1.1 apk文件解壓后的目錄結構 AndroidManifest.xml:包含應用的大部分…

【AI知識】有監督學習之回歸任務(附線性回歸代碼及可視化)

1. 回歸的基本概念 在機器學習的有監督學習中&#xff0c;回歸&#xff08;Regression&#xff09;是一種常見的任務&#xff0c;它的目標是通過觀察數據來建立一個模型&#xff0c;用一個或多個自變量來預測因變量的值。 回歸分析通常用于&#xff1a; a.預測&#xff0c;基于…

fastadmin批量壓縮下載遠程視頻文件

后端代碼 // 批量下載并壓縮 public function downloadAll(){$ids input(ids);$row $this->model->where(id, in, $ids)->field(id,title,video_url)->select();if (!$row) {$this->error(記錄不存在);}$arr [];$tempFiles []; // 用來存儲臨時下載的視頻文…

邊緣計算+人工智能:讓設備更聰明的秘密

引言&#xff1a;日常生活中的“智能”設備 你是否發現&#xff0c;身邊的設備正變得越來越“聰明”&#xff1f; 早上醒來時&#xff0c;智能音箱已經根據你的日程播放舒緩音樂&#xff1b;走進廚房&#xff0c;智能冰箱提醒你今天的食材庫存&#xff1b;而在城市道路上&…

JVM 雙親委派模型以及垃圾回收機制

目錄 1. JVM 內存區域劃分 2. JVM 中類加載的過程 1) 類加載的基本流程 2) 雙親委派模型 3. JVM 中垃圾回收機制 1) 找到垃圾 a) 引用計數 b) 可達性分析 2) 釋放垃圾 1. JVM 內存區域劃分 一個運行起來的 Java 進程&#xff0c;其實就是一個 JVM 虛擬機。 而進程是…

ansible自動化運維(四)jinjia2模板

Jinjia2模板 前面說到playbook組成的時候&#xff0c;有介紹到template模塊&#xff0c;而template模塊對模板文件進行渲染時&#xff0c;使用的就是jinja2模板引擎&#xff0c;jinja2本身就是基于python的模板引擎&#xff0c;所以下面先來了解一下jinjia2模板的一些用法 基…

通過k-means對相似度較高的語句進行分類

本文介紹了如何使用K-Means算法對相似度較高的語句進行分類&#xff0c;并附上java案例代碼 import java.util.ArrayList; import java.util.List; import java.util.Random;public class KMeansTextClustering {public static void main(String[] args) {// 初始化語句數據集…