鏡舟科技助力某大型電網企業破解數據架構升級難題,打造國產化湖倉標桿

在 “十四五”?規劃全面推進國產化替代的背景下,某大型電網企業聯合鏡舟科技與騰訊云,基于全球領先的開源分析型數據庫 StarRocks 及騰訊 TBDS 大數據平臺,構建電力行業國產化湖倉一體架構。該項目實現 PB 級電力數據的統一管理,為能源行業核心系統國產化升級提供了可復制的技術范本。

數字電力正面臨日益復雜的數據挑戰

隨著數字化轉型深入推進,該電網企業作為服務超 2.5 億用戶的特大型能源企業,面臨著日益復雜的數據管理挑戰:

  • 數據鏈路復雜,時效性低:數據供給路徑冗長,導致延遲高,無法滿足實時性要求。
  • 資源瓶頸:計算集群資源緊張,CPU 和 IO 高負載,限制了性能擴展。
  • 高并發挑戰:先有的業務大量使用寬表設計,查詢并發壓力劇增,現有架構難以支撐。
  • 融合計算能力不足:數據分散,跨集群融合計算能力缺失,限制了個性化需求支持。
  • 數據治理難度大:全域的數據資產建設,沒有統一的主題劃分,數據分散。

解決方案:基于 StarRocks+TBDS 構建統一數據平臺

作為 StarRocks 核心商業化公司,鏡舟科技聯合騰訊云為該電網企業設計了一套分層漸進式的技術升級方案。

該方案核心在于優化數據鏈路,通過縮短供給路徑并引入實時分析引擎,有效提升數據時效性。同時,通過擴展集群規模提升資源利用率,解決計算資源瓶頸問題。

針對高并發查詢壓力,鏡舟團隊對查詢引擎進行深度優化,增強緩存機制和負載均衡能力。此外,通過構建統一數據平臺,實現跨集群數據整合和計算,滿足多樣化的分析需求,并為數據治理奠定堅實基礎。

在該電網企業實際業務場景下的 POC 測試中,StarRocks 展現了顯著的性能優勢:現網系統查詢耗時:1513 秒,StarRocks 查詢耗時:0.176 秒,實現近 8600 倍的查詢加速。

1. 基于 StarRocks+TBDS 的湖倉技術架構

該電網企業的湖倉架構包含四個關鍵層次,包含從數據采集到業務應用的全鏈路:

  • 數據接入層:Flink 實時數據處理
  • 數據湖存儲:騰訊 TBDS(Iceberg 表格式)
  • 分析加速層:StarRocks 多集群(存算一體 + 存算分離)
  • 業務應用層:SmartBI 等可視化工具

2. 關鍵技術提升整體性能

方案實施過程中,團隊重點解決了三大技術難題,確保系統平穩過渡的同時提升整體性能:

1. 國產化適配驗證

完成包括海光芯片和麒麟 V10 操作系統在內的全棧國產化適配驗證,保障系統在國產化基礎設施上的穩定運行。

2. 業務平滑遷移

通過支持 Greenplum 語法兼容,成功保障了存量業務的平滑遷移,并利用多集群架構實現了網級與省側業務高效協同。

3. 湖倉數據統一協同

基于騰訊 TBDS 數據湖構建統一元數據目錄,同時借助 Flink 實現實時數據入湖,StarRocks 提供強大的分析加速能力,形成完整的數據流轉與處理閉環。

StarRocks 數據底座:電力業務騰飛的新引擎

此次升級幫助該電網企業進一步構建統一的基礎數據底座,為各業務平臺提供數據存儲、處理、治理、建模和計算分析等全數據生命周期能力服務,支撐網省各級單位數據應用需求。

  1. 業務連續性保障:StarRocks 兼容 Greenplum 近 10 萬條 SQL 語法。支持漸進式改造,存算分離與存算一體混合部署模式靈活可選。
  2. 架構擴展性提升:多集群架構實現分散 MPP 集群的統一納管,彈性擴縮容能力適配業務增長需求。
  3. 技術自主可控:全國產化技術棧(海光芯片 + 麒麟系統),并與騰訊 TBDS 實現數據湖管理標準統一。

未來,鏡舟科技將持續完善 StarRocks 與騰訊 TBDS 的深度協同,為關鍵行業提供安全可靠的數據基座。

鏡舟科技:企業級數據分析基座構建者

作為 StarRocks 開源項目的主要貢獻者及商業化領軍企業,鏡舟科技基于 “開源 + 商業化” 雙引擎模式,通過企業級產品鏡舟數據庫(Mirrorship)為企業級用戶打造專業的 Lakehouse 解決方案:

  1. 技術領先性:鏡舟數據庫支持 PB 級實時分析的分布式數據庫,同時鏡舟科技技術團隊深度參與 StarRocks 開源社區建設,并基于此給企業級用戶提供更多技術保障。
  2. 行業實踐經驗積累:鏡舟科技已成功支撐金融、智能制造等領域的數據分析平臺建設,企業級客戶已覆蓋超百家頭部企業。

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/web/76024.shtml
繁體地址,請注明出處:http://hk.pswp.cn/web/76024.shtml
英文地址,請注明出處:http://en.pswp.cn/web/76024.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

Spark-SQL核心編程3

數據加載與保存 通用方式: SparkSQL 提供了通用的保存數據和數據加載的方式。這里的通用指的是使用相同的API,根據不同的參數讀取和保存不同格式的數據,SparkSQL 默認讀取和保存的文件格式為parquet 數據加載方法: spark.read.lo…

使用HTML + CSS + JS,編寫一個臺球追分計分器

目錄 一.代碼 二.效果展示 三.該計分器的優點 一.代碼 <!DOCTYPE html> <html lang"zh-CN"><head><meta charset"UTF-8"><meta name"viewport" content"widthdevice-width, initial-scale1.0"><…

LLM小白自學筆記:1.兩種指令微調

一、LoRA 簡單來說&#xff0c;LoRA不直接調整個大模型的全部參數&#xff08;那樣太費資源&#xff09;&#xff0c;而是在模型的某些層&#xff08;通常是注意力層&#xff09;加個“旁路”——兩個小的矩陣&#xff08;低秩矩陣&#xff09;。訓練時只更新這倆小矩陣&#x…

2026《數據結構》考研復習筆記一(C++基礎知識)

C基礎知識復習 一、數據類型二、修飾符和運算符三、Lambda函數和表達式四、數學函數五、字符串六、結構體 一、數據類型 1.1基本類型 基本類型 描述 字節&#xff08;位數&#xff09; 范圍 char 字符類型&#xff0c;存儲ASCLL字符 1&#xff08;8位&#xff09; -128…

基于骨骼識別的危險動作報警分析系統

基于骨骼識別的危險動作報警分析系統 【包含內容】 【一】項目提供完整源代碼及詳細注釋 【二】系統設計思路與實現說明 【三】基于骨骼識別算法的實時危險行為預警方案 【技術棧】 ①&#xff1a;系統環境&#xff1a;Windows 10/11、macOS Ventura、Ubuntu 20.04 ②&#x…

【雙指針】四數之和(medium)

四數之和&#xff08;medium&#xff09; 題?描述&#xff1a;解法&#xff08;排序 雙指針&#xff09;算法思路&#xff1a; C 算法代碼&#xff1a;Java 算法代碼&#xff1a; 題?鏈接&#xff1a;18. 四數之和 題?描述&#xff1a; 給你?個由 n 個整數組成的數組 num…

Flask+Influxdb+grafna構建電腦性能實時監控系統

Influx下載地址&#xff0c;這里下載了以下版本influxdb-1.8.5_windows_amd64.zip 運行前需要先啟動Influx數據庫&#xff1a; 管理員方式運行cmd->F:->cd F:\influxdb\influxdb-1.8.5-1->influxd -config influxdb.conf&#xff0c;以influxdb.conf配置文件啟動數…

如何在Keil中配置國民技術N32G系列MCU開發環境

如何在Keil及Jlink中搭建國民技術N32G系列MCU開發環境 根據自己的MCU型號&#xff08;我這里的型號是N32G452REL7&#xff09;訪問國民技術官網&#xff0c;依次從N32G通用MCU-技術資源-固件和軟件-軟件開發套件&#xff0c;獲取對應MCU型號的SDK&#xff0c;也可點擊這里從網盤…

微軟承認Win11出現極端錯誤,只能強制關機或重裝系統

最近&#xff0c;不少使用 Windows 11 的用戶反映&#xff0c;在系統更新后&#xff0c;“Windows Hello”突然失效&#xff0c;原本便捷的人臉識別和PIN登錄功能統統無法使用。更糟的是&#xff0c;有人在重置系統后直接被擋在系統門外&#xff0c;這讓人不禁發問&#xff1a;…

【android bluetooth 協議分析 02】【bluetooth hal 層詳解 1】【uart 介紹】

一、什么是 UART&#xff1f; UART&#xff08;Universal Asynchronous Receiver/Transmitter&#xff09; 是一種 串行通信協議&#xff0c;它的特點是通信時不需要專門的時鐘信號&#xff08;叫做“異步”通信&#xff09;&#xff0c;常用于兩個設備之間的簡單數據通信&…

天元證券|奶粉行業結構性回暖 乳企競速全齡化、國際化

在過去幾年中&#xff0c;中國嬰配粉市場經歷了量價齊增&#xff0c;量減價增&#xff0c;量減價減的三個周期。歷經多年行業深度洗牌與競爭格局重塑&#xff0c;2024年中國嬰配粉市場回暖態勢愈發清晰可辨。 日前&#xff0c;包括中國飛鶴、澳優、健合集團在內的多家奶粉股披露…

第3.1節 調用鏈路分析簡介

調用鏈路&#xff08;Call Chain / Call Path&#xff09; 是程序在執行過程中&#xff0c;按照調用順序形成的函數、模塊或組件之間的依賴關系鏈條&#xff0c;完整記錄了從程序入口到當前執行點的動態調用路徑。它反映了代碼執行的邏輯流程&#xff0c;是分析程序行為、調試問…

System.Security.Cryptography.CryptographicException“填充無效,無法被移除。”

這個異常通常發生在以下幾種情況&#xff1a; 1.密文損壞&#xff1a;密文在傳輸或存儲過程中被篡改或損壞。 2.密鑰不匹配&#xff1a;用于解密的密鑰與加密時使用的密鑰不同。 3.填充模式不匹配&#xff1a;加密時使用的填充模式與解密時指定的填充模式不一致。 4.使用了不正…

【網絡入侵檢測】Suricata之數據包內容匹配

【作者主頁】只道當時是尋常 【專欄介紹】入侵檢測。專注網絡、主機安全&#xff0c;歡迎關注與評論。 1. 概要 本文詳細介紹了網絡入侵檢測系統&#xff08;如 Suricata&#xff09;中用于檢查數據包或流有效載荷的 Payload 關鍵字。content 用于匹配數據包內容&#xff0c;默…

Spring Boot 整合 Redis 實現點贊功能:從基礎到實踐

在當今互聯網應用開發中&#xff0c;點贊功能幾乎成為了各類內容平臺的標配。它不僅能增加用戶與內容之間的互動&#xff0c;還能直觀地反映內容的受歡迎程度。本文將詳細介紹如何使用 Spring Boot 整合 Redis 來實現一個簡單的文章點贊功能&#xff0c;讓你輕松掌握這一實用技…

openGauss DataVec + Dify,快速搭建你的智能助手平臺

在當今數字化和智能化的時代&#xff0c;大語言模型&#xff08;LLM&#xff09;的應用正以前所未有的速度改變著各個領域的工作方式和用戶體驗。Dify 作為一個開源的大語言模型應用開發平臺&#xff0c;為開發者們提供了便捷且強大的工具&#xff0c;助力構建從基礎智能體到復…

OpenLayers:extent與view extent 介紹

一、范圍的概念 1.什么是范圍&#xff1f; 在Openlayers中范圍&#xff08;Extent&#xff09;是用于表示地理空間區域的一種概念。它通常由一個數字數組構成&#xff0c;數組中的內容為&#xff1a;[最小x坐標&#xff0c;最小y坐標&#xff0c;最大x坐標&#xff0c;最大y坐…

can‘t set boot order in virtualbox

Boot order setting is ignored if UEFI is enabled https://forums.virtualbox.org/viewtopic.php?t99121 如果勾選EFI boot order就是灰色的 傳統BIOS就是可選的 然后選中任意介質&#xff0c;通過右邊的上下箭頭調節順序&#xff0c;最上面的應該是優先級最高的 然后就…

如何在 Kali 上解決使用 evil-winrm 時 Ruby Reline 的 quoting_detection_proc 警告

在使用 Kali Linux 運行 Ruby 工具&#xff08;例如 evil-winrm&#xff09;時&#xff0c;你可能會遇到以下警告&#xff1a; Warning: Remote path completions is disabled due to ruby limitation: undefined method quoting_detection_proc for module Reline這個警告會導…

工資管理系統的主要功能有哪些

工資管理系統通過自動化薪資計算、稅務處理、員工數據管理、報表生成等功能&#xff0c;極大地提升了薪資發放的效率和準確性。在傳統的人工薪資管理中&#xff0c;HR人員需要手動計算每位員工的薪資&#xff0c;并確保符合稅務要求&#xff0c;極易出錯且耗時。而現代工資管理…