元數據管理與數據治理平臺:Apache Atlas 通知和業務元數據 Notifications And Business Metadata

文中內容僅限技術學習與代碼實踐參考,市場存在不確定性,技術分析需謹慎驗證,不構成任何投資建議。

Apache Atlas
Apache Atlas 框架是一套可擴展的核心基礎治理服務,使企業能夠有效、高效地滿足 Hadoop 中的合規性要求,并支持與整個企業數據生態系統集成。這將通過使用規范和取證模型,以及技術和運營審計以及由業務分類元數據豐富的沿襲,在 Hadoop 中提供真正的可視性。它還使任何元數據使用者能夠互操作,而無需彼此獨立的接口——元數據存儲是通用的。通過利用 Apache Ranger 來維護元數據的準確性,以防止在運行時對數據進行未經授權的訪問。安全性基于角色 (RBAC) 和屬性 (ABAC)。

通知

Notifications

Apache Atlas 的通知

Apache Atlas 會將關于元數據變更的通知發送到名為 ATLAS_ENTITIES 的 Kafka topic。
對元數據變更感興趣的應用程序可以監聽這些通知。
例如,Apache Ranger 會處理這些通知,以便根據分類來授權數據訪問。

通知 - V2:Apache Atlas 1.0 版本

Apache Atlas 1.0 針對以下元數據操作發送通知。

ENTITY_CREATE:         當創建實體實例時發送
ENTITY_UPDATE:         當更新實體實例時發送
ENTITY_DELETE:         當刪除實體實例時發送
CLASSIFICATION_ADD:    當向實體實例添加分類時發送
CLASSIFICATION_UPDATE: 當更新實體實例的分類時發送
CLASSIFICATION_DELETE: 當從實體實例移除分類時發送

通知包含以下數據。

AtlasEntity  entity;
OperationType operationType;
List<AtlasClassification>  classifications;

通知 - V1:Apache Atlas 0.8.x 及更早版本

來自 Apache Atlas 0.8.x 及更早版本的通知,其內容格式有所不同,詳情如下。

操作

ENTITY_CREATE: 當創建實體實例時發送
ENTITY_UPDATE: 當更新實體實例時發送
ENTITY_DELETE: 當刪除實體實例時發送
TRAIT_ADD:     當向實體實例添加分類時發送
TRAIT_UPDATE:  當更新實體實例的分類時發送
TRAIT_DELETE:  當從實體實例移除分類時發送

通知包含以下數據。

Referenceable entity;
OperationType operationType;
List<Struct>  traits;

Apache Atlas 1.0 可以配置為以舊版本格式發送通知,而非最新版本格式。
這對于尚未準備好處理最新版本格式通知的部署環境會很有幫助。
要將 Apache Atlas 1.0 配置為以早期版本格式發送通知,請在 atlas-application.properties 中設置以下配置:

atlas.notification.entity.version=v1

發送到 Apache Atlas 的通知

Apache Atlas 可通過向名為 ATLAS_HOOK 的 Kafka topic 發送通知,來接收元數據變更和血緣信息。
Apache Hive / Apache HBase / Apache Storm / Apache Sqoop 的 Atlas hook 使用此機制,將感興趣的事件通知給 Apache Atlas。

ENTITY_CREATE            : 創建一個實體。更多詳情請參考 Java 類 HookNotificationV1.EntityCreateRequest
ENTITY_FULL_UPDATE       : 更新一個實體。更多詳情請參考 Java 類 HookNotificationV1.EntityUpdateRequest
ENTITY_PARTIAL_UPDATE    : 更新實體的特定屬性。更多詳情請參考 HookNotificationV1.EntityPartialUpdateRequest
ENTITY_DELETE            : 刪除一個實體。更多詳情請參考 Java 類 HookNotificationV1.EntityDeleteRequest
ENTITY_CREATE_V2         : 創建一個實體。更多詳情請參考 Java 類 HookNotification.EntityCreateRequestV2
ENTITY_FULL_UPDATE_V2    : 更新一個實體。更多詳情請參考 Java 類 HookNotification.EntityUpdateRequestV2
ENTITY_PARTIAL_UPDATE_V2 : 更新實體的特定屬性。更多詳情請參考 HookNotification.EntityPartialUpdateRequestV2
ENTITY_DELETE_V2         : 刪除一個或多個實體。更多詳情請參考 Java 類 HookNotification.EntityDeleteRequestV2

業務元數據

Business Metadata

概述

Atlas 類型系統允許用戶為想要管理的元數據對象定義模型并創建實體。通常,該模型會捕獲技術屬性——如名稱、描述、創建時間、副本數量等;元數據對象由監控真實對象的流程創建和更新。通常有必要用附加屬性擴充技術屬性,以捕獲有助于組織、搜索和管理元數據實體的業務細節。例如,來自營銷部門的管理員可以為活動定義一組屬性,并將這些屬性添加到相關的元數據對象中。

創建業務元數據

業務元數據是 Atlas 類型系統支持的一種類型——類似于 entity、enum、struct、classification 類型。業務元數據類型可以具有原始類型的屬性——類似于 struct 類型。此外,每個業務元數據屬性可以與多個 entity-type 關聯,如 hive_db/hive_table/hbase_table。

img

img

在實體實例上添加業務屬性

一旦業務元數據屬性與 entity-type 關聯,Apache Atlas 即可通過 UI 和 REST API 為實體賦值。

img

使用業務屬性搜索實體

Apache Atlas 支持基于業務屬性值查找實體——可通過 UI 和 REST API 實現。

img

img

授權

Apache Atlas 的授權機制已更新,可控制誰可以創建業務元數據并在實體上更新業務屬性。Apache Ranger 授權插件已更新,以支持針對這些操作的策略。

img

REST API

Apache Atlas 提供 REST API,用于創建和更新業務元數據、在實體上添加/更新業務屬性,以及基于業務實體屬性查找實體。有關更多詳細信息,請參閱 REST API 文檔。

風險提示與免責聲明
本文內容基于公開信息研究整理,不構成任何形式的投資建議。歷史表現不應作為未來收益保證,市場存在不可預見的波動風險。投資者需結合自身財務狀況及風險承受能力獨立決策,并自行承擔交易結果。作者及發布方不對任何依據本文操作導致的損失承擔法律責任。市場有風險,投資須謹慎。

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/918341.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/918341.shtml
英文地址,請注明出處:http://en.pswp.cn/news/918341.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

rem:CSS中的相對長度單位

&#x1f90d; 前端開發工程師、技術日更博主、已過CET6 &#x1f368; 阿珊和她的貓_CSDN博客專家、23年度博客之星前端領域TOP1 &#x1f560; 牛客高級專題作者、打造專欄《前端面試必備》 、《2024面試高頻手撕題》、《前端求職突破計劃》 &#x1f35a; 藍橋云課簽約作者、…

【10】C#實戰篇——C# 調用 C++ dll(C++ 導出函數、C++導出類)

文章目錄1 導出C 類函數 、導出 C函數1.1 .h文件1.2 .cpp 文件1.3 C# 調用2 C與C#數據類型對應3 保姆級教程&#xff08;項目搭建、代碼、調用&#xff0c;圖文并茂&#xff09;1 導出C 類函數 、導出 C函數 C 生成動態庫.dll 詳細教程&#xff1a; C 生成動態庫.dll 及 C調用…

Flutter 與 Android NDK 集成實戰:實現高性能原生功能

Flutter 與 NDK 集成實現 Flutter 可以通過 Platform Channels 與原生代碼&#xff08;包括使用 NDK 編寫的 C/C 代碼&#xff09;進行交互。以下是實現 Flutter 與 NDK 集成的步驟&#xff1a; 基本步驟 1. 創建 Flutter 項目 flutter create flutter_ndk_example cd flutter_…

elementui cascader 遠程加載請求使用 選擇單項等

背景&#xff1a;小程序與后端使用自定義表單渲染視圖。發現若沒有全選&#xff08;如&#xff1a;省市縣全部選擇&#xff0c;指定的市3級&#xff09;在pc端就會無法渲染出已經選擇的區縣名稱。 解決方案&#xff1a;參考官方文檔&#xff0c;設置屬性可獨立勾選element ui c…

Unity WebGL打包后啟動方法,本地方法

引言&#xff1a;常見WebGL開啟方法常需要重新打包點擊Build and Run或者將游戲放到Unity的云服務器上&#xff0c;作為開發者而言這兩個方案一個為了開啟再次打包&#xff0c;另一個直接放到了公開環境都不太合適。所以我們需要一個能在本地開啟測試的WebGL的方法。 解決方案 …

安全引導功能及ATF的啟動過程(五)

安全引導功能及ATF的啟動過程&#xff08;五&#xff09; ATF中bl32的啟動 bl31中的runtime_svc_init函數會初始化OP-TEE對應的服務&#xff0c;通過調用該服務項的初始化函數來完成OP-TEE的啟動。對于OP-TEE的服務項會通過DECLARE_RT_SVC宏在編譯時被存放到rt_svc_des段中。該…

Numpy科學計算與數據分析:Numpy入門之多平臺安裝與基礎環境配置

Numpy環境搭建與基礎操作 學習目標 本課程將指導學員在Windows、macOS和Linux三種操作系統上安裝Numpy&#xff0c;并配置開發環境&#xff0c;包括使用Jupyter Notebook和Spyder等IDE的基本操作。通過本課程的學習&#xff0c;學員將能夠獨立搭建Numpy開發環境&#xff0c;并…

內存溢出的原因有哪些,如何排查線上問題?

1. java.lang.OutOfMemoryError: ......java heap space..... 堆棧溢出&#xff0c;代碼問題的可能性極大 2. java.lang.OutOfMemoryError: GC over head limit exceeded 系統處于高頻的GC狀態&#xff0c;而且回收的效果依然 不佳的情況&#xff0c;就會開始報這個錯誤&…

Cesium 無人機視角飛行漫游,截屏

1.實現Cesium模擬無人機離屏渲染&#xff0c;無人機視角飛行漫游。視錐體顯示 具體效果如下地址&#xff1a; 【CESIUM無人機視角飛行截屏】 https://www.bilibili.com/video/BV1zQ89zGE14/?share_sourcecopy_web&vd_source8239ec37df07d6a5d56c9ece00146783

vscode 打開設置

目錄 方法 1&#xff08;快捷鍵&#xff09;&#xff1a; 方法2&#xff0c;界面操作&#xff0c;有時沒有 方法 1&#xff08;快捷鍵&#xff09;&#xff1a; 按下&#xff1a;Cmd Shift P 輸入并選擇&#xff1a;Preferences: Open Settings (JSON) 方法2&#xff0c;…

繁花深處:花店建設的時代意義與多元應用—仙盟創夢IDE

花店當第一縷晨光透過花店的玻璃窗&#xff0c;落在帶著露水的玫瑰花瓣上時&#xff0c;這個空間便不再只是商品交易的場所。花店作為城市肌理中充滿生命力的細胞&#xff0c;承載著遠比銷售鮮花更豐富的社會意義。在快節奏的現代生活中&#xff0c;一束鮮花的綻放不僅是自然之…

AtomicStampedReference解決方案

1、通過引入版本戳(stamp)機制解決ABA問題&#xff1a; 每次修改時遞增版本號執行CAS時同時檢查值和版本號即使值相同但版本不同&#xff0c;操作也會失敗2、具體代碼實現 import java.util.concurrent.atomic.AtomicStampedReference;public class AtomicStampedReferenceDemo…

版本控制的詳細說明介紹(已有github賬號版)

說明 如果已經有一個GitHub賬號,這是一個很好的起點!版本控制是一個幫助你管理代碼或其他文件變化的工具,就像給你的項目加了一個“時間機器”,可以隨時回溯歷史、協作編輯,而不會亂套。下面我將從基礎開始,層層展開說明。整個內容分為幾個部分:介紹、原理、用途、操作…

基于Github Pages搭建個人博客站點:hexo環境搭建、本地預覽與發布

步驟確認 Hexo 博客的源文件在哪里安裝 Hexo 命令行工具&#xff1a;npm install -g hexo-cli在源文件目錄中使用 hexo new "文章標題" 創建新文章編輯生成的 Markdown 文件使用 hexo generate 生成靜態文件使用 hexo deploy 部署到這個 GitHub Pages 倉庫設置Hexo博…

Shell腳本實現自動封禁惡意掃描IP

iptables 簡介我們使用iptables工具實現功能iptables 是 Linux 系統上最常用的防火墻工具&#xff0c;可以指定策略。Shell文件創建首先我們先創建文件scanners.shvim /usr/local/bin/auto_block_ip.sh我的目標是每10分鐘自動掃描&#xff0c;再10分鐘內一個IP訪問50次以上就就…

LeetCode_哈希表

哈希表&#xff08;散列表&#xff09;一、哈希表二、有效的字母異位詞1、有效的字母異位詞(力扣242)2、贖金信(力扣383)3、字母異位詞分組(力扣49)4、找到字符串中所有字母異位詞(力扣438)三、兩個數組的交集1、兩個數組的交集(力扣349)2、兩個數組的交集 II(力扣350)三、其他…

2.變量和常量

1.變量2.2 變量的基本使用2.3 變量的本質 2.4 變量命名規則與規范 2.5 變量拓展-數組 1.數組的基本使用 2.常量

Java并發核心基礎解析

目錄 一、背景 二、Java線程模型 三、Synchronized實現原理 3.1 鎖的使用 3.2 解釋執行 3.3 JIT執行 3.4 鎖的狀態 3.5 monitorenter 3.5.1 偏向鎖 3.5.2 輕量級鎖 3.5.3 重量級鎖 3.6 monitorexit 3.6.1 偏向鎖 3.6.2 輕量級鎖 3.6.3 重量級 四、可見性的真相…

線程池111

線程池框圖C語言線程池詳解&#xff1a;從基礎到實現通俗理解線程池想象你開了一家快遞站&#xff0c;每天要處理很多包裹派送&#xff1a;?沒有線程池?&#xff1a;每來一個包裹就雇一個新快遞員&#xff0c;送完就解雇問題&#xff1a;頻繁招聘解雇成本高&#xff08;線程創…

Qt-Advanced-Docking-System

直譯一下 &#xff1a; 先進的停靠系統 github: mfreiholz/Qt-Advanced-Docking-System: Advanced Docking System for Qt 這是這個項目的起源 這個最后一次更新&#xff1a; githubuser0xFFFF/Qt-Advanced-Docking-System: Advanced Docking System for Qt 這是另一個人復刻…