Elasticsearch架構基本原理

Elasticsearch的架構原理可以詳細分為以下幾個方面進行介紹:

一、Elasticsearch基本概念

Elasticsearch(簡稱ES)是一個基于Lucene構建的開源、分布式、RESTful搜索和分析引擎。它支持全文搜索、結構化搜索、半結構化搜索、數據分析、地理位置和對象間關聯關系搜索等功能。ES使用Java編寫,隱藏了Lucene的復雜性,為開發者提供了一套統一的API和client。

二、Elasticsearch節點類型

  1. Master節點:
    • 主要負責:管理索引(如創建、刪除索引)、分配分片、維護元數據、管理集群節點狀態。
    • 特點:不負責數據寫入和查詢,比較輕量級。
    • 選舉過程:通過Zen Discovery機制找到集群中的其他節點,并建立連接,然后從候選主節點中選舉出一個主節點。
  2. DataNode節點:
    • 主要負責:數據寫入、數據檢索。大部分ES的壓力都集中在DataNode節點上。
    • 特點:可以保存數據的節點,負責保存分片數據。
    • 決策:由Master Node決定如何把分片分發到數據節點上。
  3. 其他節點類型:
    • Master eligible nodes:可以參與選舉的合格節點,每個節點啟動后默認就是一個Master eligible節點。
    • Ingest Node:數據前置處理轉換節點,支持pipeline管道設置,用于對數據進行過濾、轉換等操作。
    • Machine Learning Node:負責運行機器學習的Job,用于異常檢測等。

三、分片和副本機制

  1. 分片(Shard):
    • ES將索引的數據分成若干部分,分布在不同的服務器節點中。每個分片是一個獨立的、可讀寫的Lucene索引。
    • 主分片數在索引創建時指定,后續不允許修改。
  2. 副本分片(Replica Shard):
    • 是主分片的拷貝,用于實現數據的冗余和高可用性。
    • 每個分片可以有多個副本分片,副本分片可以分布在不同的節點上。

四、Elasticsearch重要工作流程

  1. 文檔寫入原理:
    • 選擇任意一個DataNode發送請求,該節點成為coordinating node(協調節點)。
    • 通過路由計算公式確定文檔要寫入的分片。
    • coordinating node將請求轉發給對應的primary shard所在的DataNode。
    • Primary Shard處理請求,寫入數據到索引庫中,并將數據同步到Replica shard。
  2. 檢索原理:
    • client發起查詢請求,某個DataNode接收到請求后成為coordinating node。
    • coordinating node將查詢請求廣播到每一個數據節點,數據節點的分片處理查詢請求。
    • 各分片將符合條件的數據返回給coordinating node,coordinating node匯總并排序結果后返回給client。

五、數據存儲與索引

  • ES使用Lucene作為其底層數據存儲引擎,數據存儲在Lucene索引中。
  • ES支持近實時索引,通過refresh、flush和segment合并等機制確保數據的快速檢索和更新。

六、集群管理

  • ES通過HTTP協議進行節點之間的通信,實現集群的狀態管理和數據同步。
  • 支持集群的彈性伸縮,可以通過添加或移除節點來調整集群的規模。

以上是對Elasticsearch架構原理的詳細介紹,涵蓋了其基本概念、節點類型、分片和副本機制、重要工作流程、數據存儲與索引以及集群管理等方面。

后續會持續更新分享相關內容,記得關注哦!

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/diannao/38802.shtml
繁體地址,請注明出處:http://hk.pswp.cn/diannao/38802.shtml
英文地址,請注明出處:http://en.pswp.cn/diannao/38802.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

[數據集][目標檢測]城市街道井蓋破損未蓋丟失檢測數據集VOC+YOLO格式4404張5類別

數據集格式:Pascal VOC格式YOLO格式(不包含分割路徑的txt文件,僅僅包含jpg圖片以及對應的VOC格式xml文件和yolo格式txt文件) 圖片數量(jpg文件個數):4404 標注數量(xml文件個數):4404 標注數量(txt文件個數):4404 標注…

note-網絡是怎樣連接的6 請求到達服務器,響應返回瀏覽器

助記提要 服務器程序的結構套接字的指代方式MAC模塊的接收過程IP模塊的接收過程TCP模塊處理連接包TCP模塊處理數據包TCP模塊的斷開操作URI轉換為實際文件路徑URI調用程序Web服務器訪問控制響應內容的類型 6章 請求到達服務器,響應返回瀏覽器 1 服務器概覽 在數據…

昇思25天學習打卡營第03天 | 張量 Tensor

昇思25天學習打卡營第03天 | 張量 Tensor 文章目錄 昇思25天學習打卡營第03天 | 張量 Tensor張量張量的創建張量的屬性Tensor與NumPy轉換稀疏張量CSRTensorCOOTensor 總結打卡 張量 張量(Tensor)是一種類似于數組和矩陣的特殊數據結構,是神經…

MATLAB|更改繪圖窗口的大小和位置

MATLAB繪圖 plot、plot3、cdfplot都適用 效果 如下圖,運行程序后可以直接得到這兩個繪圖窗口。 右上角的Figure1是原始圖片,右下角的Figure2是調整了位置和大小后的繪圖窗口。 完整源代碼 % 繪圖大小和位置調整 % Evand©2024 % 2024-7-1/Ver1…

Transformer模型原理細節解析

基本原理: Transformer 的核心概念是 自注意力機制(Self-Attention Mechanism),它允許模型在處理每個輸入時“關注”輸入序列的不同部分。這種機制讓模型能夠理解每個單詞或符號與其他單詞或符號之間的關系,而不是逐個地線性處理輸入。 Transformer 主要由兩個部分組成:…

手把手教你搭建PyTorch環境:MindStudio中PyTorch模型開發實戰

本次實驗的視頻鏈接如下:?https://www.bilibili.com/video/BV1iA4y1f7o1/ 本次實驗在MindStudio上進行,請先按照 教程 配置環境,安裝MindStudio。 ? MindStudio的是一套基于華為自研昇騰AI處理器開發的AI全棧開發工具平臺,該IDE上功能很多…

Boost 智能指針

scoped_ptr 不能被復制或賦值給其他 scoped_ptr 對象,不能與其他指針比較 (除了 nullptr) scoped_ptr 用例 template <typename T> class scoped_ptr {public:// 構造函數:初始化 scoped_ptr 并接管指針的所有權explicit scoped_ptr(T* ptr = nullptr) : ptr_(ptr) …

Flink CDC的使用

MySQL數據準備 create database if not exists test; use test; drop table if exists stu; create table stu (id int primary key auto_increment, name varchar(100), age int); insert into stu(name, age) values("張三",18); insert into stu(name, age) valu…

ESOP 系統助力電子設備公司的管理模式升級

在科技飛速發展的時代&#xff0c;電子設備行業競爭愈發激烈&#xff0c;企業要想在市場中立足并持續發展&#xff0c;不斷升級管理模式成為關鍵。ESOP系統的引入&#xff0c;為電子設備公司帶來了全新的機遇&#xff0c;有力地推動了管理模式的升級。 ESOP 系統首先為電子設備…

element el-table表格切換分頁保留分頁數據+限制多選數量

el-table表格并沒有相關的方法來禁用表頭里面的多選按鈕 那么我們可以另辟蹊徑&#xff0c;來實現相同的多選切換分頁&#xff08;保留分頁數據&#xff09; 限制多選數量的效果 <el-table:data"tableData"style"width: 100%">// 不使用el-talbe自帶…

農村程序員陳隨易2024年中總結

今天是 2024年7月1日&#xff0c;時間如白駒過隙&#xff0c;今年已去其一半。 總結一下今年上半年的情況&#xff0c;給大家提供一些參考和建議。 希望大家關注一下公眾號 陳隨易&#xff0c;有些內容只在公眾號發表。 先看看我的年初計劃&#xff0c;這個在今年年初的時候&…

泛微E9開發 限制明細表列的值重復

限制明細表列的值重復 1、需求說明2、實現方法3、擴展知識點3.1 修改單個字段值&#xff08;不支持附件類型&#xff09;3.1.1 格式3.1.2 參數3.1.3 案例 3.2 獲取明細行所有行標示3.2.1 格式3.2.2 參數說明 1、需求說明 限制明細表的“類型”字段&#xff0c;在同一個流程表單…

【全網首發】雙字重疊語序驗證碼識別

【省流&#xff1a;打算直接測試效果的可以訪問這個網址】 http://decaptcha.ai?project_namenetease_zh_overlap 【實現方案】 如圖所示&#xff0c;我們能看到&#xff0c;比起以往的“單個字”語序點選&#xff0c;這個驗證碼的難點在于“重疊漢字“&#xff0c;我們知道…

【Python機器學習】模型評估與改進——簡單的網格搜索

為了提升模型的泛化性能&#xff0c;我們可以通過調參來實現。 在嘗試調參之前&#xff0c;重要的是理解參數的含義&#xff0c;找到一個模型的重要參數&#xff08;提供最佳泛化性能的參數&#xff09;的取值是一項棘手的任務&#xff0c;但對于幾乎所有模型和數據集來說都是…

API-Window對象

學習目標&#xff1a; 掌握Window對象 學習內容&#xff1a; BOM&#xff08;瀏覽器對象模型&#xff09;定時器-延時函數JS執行機制location對象navigation對象history對象 BOM&#xff08;瀏覽器對象模型&#xff09;&#xff1a; BOM是瀏覽器對象模型。 window對象是一個全…

Windows 11的市場份額越來越大了,推薦你升級!

7月1日&#xff0c;系統之家發布最新數據&#xff0c;顯示Windows 11操作系統的市場份額正在穩步上升。自2021年10月Windows 11發布以來&#xff0c;Windows 10一直占據著市場主導地位&#xff0c;當時其市場份額高達81.44%。然而&#xff0c;隨著時間的推移&#xff0c;Window…

鴻蒙學習1:ArkTS基礎入門

1 變量和常量 1.1 變量 常見的基礎數據類型&#xff1a; string 字符串、number 數字、boolean布爾 判斷。 變量&#xff1a;專門用來存儲數據的容器。 語法&#xff1a;let 變量名: 數據類型 值。例如&#xff1a;let name: 張三;let price:number 12.4; let isSuccess …

【triton-inference-server】 官方python_backend 文檔及例子

https://github.com/triton-inference-server/python_backend#building-from-source 一。 從源碼構建python_backend root@ubuntu-server:/home/ubuntu/hzh# sudo apt-get install rapidjson-dev libarchive-dev zlib1g-dev Reading package lists... Done Building dependency…

vue3中的自定義指令

全局自定義指令 假設我們要創建一個全局指令v-highlight&#xff0c;用于高亮顯示元素。這個指令將接受一個顏色參數&#xff0c;并有一個可選的修飾符bold來決定是否加粗文本。 首先&#xff0c;在創建Vue應用時定義這個指令&#xff1a;&#xff08;這里可以將指令抽離成單…

昂科燒錄器支持BPS晶豐明源半導體的多相Buck控制器BPD93004E

芯片燒錄行業領導者-昂科技術近日發布最新的燒錄軟件更新及新增支持的芯片型號列表&#xff0c;其中BPS晶豐明源半導體的多相Buck控制器BPD93004E已經被昂科的通用燒錄平臺AP8000所支持。 BPD93004E是一款多相Buck控制器&#xff0c;支持原生1~4相&#xff0c;數字方式控制&am…