機構數據服務

一、背景說明

券商/基金/銀行等金融機構的數據中心,基本都外購有數十家各類數據,自有業務每天也在產生海量信息。如何有效管理和使用這些數據,通過數據服務,沉淀數據資產,機構研發和運維部門也在不斷嘗試和改進。

傳統數據中臺,是一種中心化應用模式:外購數據直接寫入數據倉庫;湖倉中數據,主從節點部署,對需要數據的下游場景,授權子節點訪問權限。

這種高耦合性的構架,很容易導致死鎖等沖突,從而影響系統整體性能。業內頭部券商,如G信/海T等,借著信創改造契機,做了較大的結構調整,讓數據服務更加穩定可靠:

圖片

外購數據不能直接寫中心數據,做一層隔離:

  • 保護中心數據,盡可能規避庫表結構變更/死鎖等行徑,減少源端數據清洗影響;

  • 加強管理,增加機構標準化字段,如更新時間、統一時間戳等;數據清洗,格式轉換,滿足要求再融合。

  • 數據留痕,尤其對已采信數據的再次更新和刪除,需要做一些必要的記錄,以便在糾紛發生時,能有據可依。

下游具體應用場景,也不能直接訪問中心服務器,只能使用分發后的數據:

  • 降低耦合,規避單一任務故障所導致的系統整體性能下降甚至崩潰風險;

  • 廣泛兼容,不管目標應用部署何種數據庫(SqlServer、Mysql、Oracle、DB2、GaussDB、TIDB、TDSQL、OceanBase、達夢等等),均可從中心數據同步過去;

  • 定制化服務,按需同步:源端多庫拆分合并,單表部分字段或記錄等。

UTS(統一數據傳輸系統)作為金融行業被廣泛使用的系統工具,在幫助相關機構進行信創改造和構架升級中,積攢了大量經驗,能對數據服務提供更好的支持。

二、數據庫服務:冗災容錯,高效兼容

1、最大特色:絕對不丟數據。

  • 數據強一致性對齊:

實際傳輸中,多種原因導致更新失敗:網絡故障、數據庫異常、數據沖突等等,甚至事務或異步模式下,結果返回成功但實際更新失敗更是屢見不鮮。在異地和異庫同步中,單輪同步必定存在數據丟失這種丟失,不會因為客戶的不檢查就能否認存在,也不會因為失敗時多重復幾次操作就可以解決。

系統構架和管理者還需要考慮更多的異常:數據誤刪除如何補救。

UTS基于時間戳強制對比的同步模式,即使目標數據本次寫入丟失,即使目標數據人為破壞,也能在下輪同步時,自動發現目標庫與源庫的差異,并增量補齊缺失數據。

  • 數據留痕:

UTS通過同步鏡像庫的方式進行數據留痕:對比源庫和鏡像庫的差異,可以記錄數據DML明細。這種鏡像+留痕模式,可以確保即使源庫發生了刪除,也能將誤刪除數據很快補救回來。

UTS支持源庫物理刪除映射成目標庫的邏輯刪除。這讓機構對外購數據的操作能一目了然,更是糾紛時的關鍵證據。

2、極限同步速度:

信創版UTS是批量傳輸模式,多線程并行同步,搶占式任務處理。一小時能同步日線行情級別表5000萬~1億條,速度是歷史版本的10倍以上。可以滿足機構災備、遷移等多種應用場景。

UTS優先增量同步,可以完成機構即時性要求高的,要求在10秒內的數據熱備同步需求。

3、兼容所有關系型數據庫,包括國產信創:

所有數據庫無需逐一版本適配,統一驅動,統一配置方法。

所有數據庫之間可以交互同步,最大兼容目標數據庫,包括字符集、編碼映射、字段類型、字段寬度等等。

4、豐富的行業經驗,避免少踩雷:

作為金融行業的老牌同步系統,已經支持各種數據商和機構的更多需求:高可用集群部署、數據庫附件字段與附件文件同步保持一致性,內容替換,名稱映射,編碼映射,腳本執行。。。

冗災容錯是UTS的核心思想,讓機構運維對數據同步高枕無憂是UTS的方向,讓數據服務更高效更便捷是UTS的一貫目標。

三、數據服務:數據可用不可見

國務院在2021年提出數據服務的一個指導思想:“數據不出域,數據可用不可見”。用API服務(接口服務)替換直接數據庫分發,就是其中的一種使用方式。

傳統的API接口,都是由開發人員完成的,用Java/Python/C#等語言,外包或者自建團隊。UTS的API可以由數據運維人員自己完成:

1、SQL=API

圖片

  • SQL語法+變量替換,即可完成API的數據接口定義。參數請求和結果返回,都是標準Json格式。

  • 記錄緩存時間、API版本號、數據分頁等,由配置或者請求指定。

  • 支持防范SQL注入攻擊。

2、碎片化開發

圖片

UTS也支持如上圖的高級語言(子函數、變量、條件、循環、函數庫等)開發API。編碼者無需擁有復雜的編程經驗,無需精通數據庫和網絡底層接口,依葫蘆畫瓢,即可批量提供海量的API。

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/bicheng/75394.shtml
繁體地址,請注明出處:http://hk.pswp.cn/bicheng/75394.shtml
英文地址,請注明出處:http://en.pswp.cn/bicheng/75394.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

中和農信:讓金融“活水”精準澆灌鄉村沃土

2025年政府工作報告首提“投資于人”概念,并22次提及“金融”,強調要著力抓好“三農”工作,深入推進鄉村全面振興;一體推進地方中小金融機構風險處置和轉型發展;扎扎實實落實促進民營經濟發展的政策措施,切…

JavaScript重難點突破:期約與異步函數

同步和異步 ?同步(Synchronous)? ?定義:任務按順序依次執行,前一個任務完成前,后續任務必須等待。 ?特點:阻塞性執行,程序邏輯直觀,但效率較低 ?異步(Asynchron…

學習總結 網格劃分+瞬態求解設置

網格劃分部分 1.導入幾何文件 導入我們的幾何模型,他的格式為.scdocx 2.添加局部尺寸BOI 因為要對對前緣和尾緣進行局部加密,所以進行一個BOI的局部加密,目標尺寸取的幾何尺寸的最小尺寸的0.1,就是0.4mm。 3.生成表面網格 表面…

.NET 使用 WMQ 連接Queue 發送 message 實例

1. 首先得下載客戶端,沒有客戶端無法發送message. 安裝好之后長這樣 我裝的是7.5 安裝目錄如下 tools/dotnet 目錄中有演示的demo 2. .Net 連接MQ必須引用bin目錄中的 amqmdnet.dll 因為他是創建Queuemanager 的核心庫, 項目中引用using IBM.WMQ; 才…

風電行業預測性維護解決方案:給風機裝上 “智能醫生”,實現故障 “秒級預警”

引言:風電設備故障為何成為 “運維黑洞”? 某海上風電場因齒輪箱軸承故障停機 3 天,直接損失 50 萬元發電量。傳統維護模式下,人工巡檢覆蓋率不足 40%,故障修復平均耗時 72 小時。而預測性維護通過物聯網 AI 技術&am…

5、無線通信基站的FPGA實現架構

基站(Base Station,BS),也稱為公用移動通信基站,是無線電臺站的一種形式,具體則指在一定的無線電覆蓋區中,通過移動通信交換中心,與移動電話終端之間的信息傳遞的無線電收發信電臺。…

筆記2——網絡參考模型

一、OSI參考模型: 應用層: 報文 給應用程序提供接口 表示層: 進行數據格式的轉換 會話層: 在通訊雙方之間建立、管理和終止會話 傳輸層: 數據段;建立、維護、取消一次端到端的數據傳輸過程;控制…

最短路徑:Bellman-Ford算法

Bellman-Ford的操作步驟 1.初始化距離:將起點的dist值設置為0,其他點的dist值設置為無窮大。 2.執行n-1輪松弛操作:遍歷所有邊,更新最短距離,收斂后可獲得最短路徑。 3.檢測負權環:額外遍歷一次&#xf…

0402-對象和類(訪問器 更改器 日期類)

OOP:面向對象程序設計 類:構造對象的模板或藍圖 類構造對象的過程稱為創建類的實例 封裝:對外隱藏數據的真實實現方式,提供簡單的方法 (類比方向盤) 對象:本質上是內存中的一小塊空間 識別類&a…

【 <二> 丹方改良:Spring 時代的 JavaWeb】之 Spring Boot 中的文件上傳與下載:實現文件管理功能

<前文回顧> 點擊此處查看 合集 https://blog.csdn.net/foyodesigner/category_12907601.html?fromshareblogcolumn&sharetypeblogcolumn&sharerId12907601&sharereferPC&sharesourceFoyoDesigner&sharefromfrom_link <今日更新> 一、開篇整…

搜索算法------DFS練習2

1. 題目 2. 思路和題解 從題目中可以看出&#xff0c;如果一個格子上有雨水&#xff0c;那么就可以流到周圍比他高度低的單元格&#xff0c;如果單元格和海洋相鄰&#xff0c;那么雨水也會流入海洋。總而言之一句話就是水從高處流向低處。從這里的流向可以聯想到深度優先搜索這…

[python] 正則表達式

1.分割str s"1-2--3---4" are.findall(r\d|[-],s) # 輸出&#xff1a;[1, -, 2, --, 3, ---, 4]s"-4(2(3)" # ? 表示 - 可以出現0次或1次 # \d 表示匹配一個或多個連續數字 # \D 表示匹配非數字字符 sre.findall(r-?\d|\D,s) # 輸出&#xff1a;[-4, (,…

定制化管理系統與通用管理系統,誰更勝一籌?

一、定制化管理系統與通用管理系統的定義與特點 定制化管理系統 定制化管理系統是根據企業的具體業務需求和流程進行個性化開發的軟件系統。它能夠深度貼合企業的管理需求&#xff0c;提供高度靈活的解決方案。其特點包括&#xff1a; 高度適應性&#xff1a;能夠精準匹配企業…

gitee 配置git上傳

Git入門&#xff1f;查看 幫助 , Visual Studio / TortoiseGit / Eclipse / Xcode 下如何連接本站, 如何導入倉庫 簡易的命令行入門教程: Git 全局設置: 以 176fuguM2項目為例 git config --global user.name "墮落圣甲蟲" git config --global user.email "11…

SpringBoot+Vue 中 WebSocket 的使用

WebSocket 是一種在單個 TCP 連接上進行全雙工通信的協議&#xff0c;它使得客戶端和服務器之間可以進行實時數據傳輸&#xff0c;打破了傳統 HTTP 協議請求 - 響應模式的限制。 下面我會展示在 SpringBoot Vue 中&#xff0c;使用WebSocket進行前后端通信。 后端 1、引入 j…

STM32 FATFS - 在SDIO的SD卡中運行fatfs

參考文章 STM32CubeMX | SD Card FATFS - 知乎 [STM32F4]基于F407的硬件移植Free RTOSFATFS&#xff08;SDIO&#xff09;_freertosfatfs-CSDN博客 例程地址&#xff1a;STM32FatFS: 基于stm32的fatfs例程&#xff0c;配合博客文章 基于梁山派天空星開發板&#xff0c;STM3…

Java 進化之路:從 Java 8 到 Java 21 的重要新特性

Java 進化之路&#xff1a;從 Java 8 到 Java 21 的重要新特性 開篇介紹 在軟件開發領域&#xff0c;Java 作為一門歷史悠久且廣泛應用的編程語言&#xff0c;始終保持著其核心競爭力和持續創新能力。自 Java 8 發布以來&#xff0c;Java 經歷了一系列重要版本更新&#xff0…

Reactor 事件流 vs. Spring 事件 (ApplicationEvent)

Reactor 事件流 vs. Spring 事件 ApplicationEvent Reactor 事件流 vs. Spring 事件 (ApplicationEvent)1?? 核心區別2?? Spring 事件 (ApplicationEvent)? 示例&#xff1a;Spring 事件發布 & 監聽1?? 定義事件2?? 發布事件3?? 監聽事件&#x1f539; 進階&…

JVM生產環境問題定位與解決實戰(六):總結篇——問題定位思路與工具選擇策略

本文已收錄于《JVM生產環境問題定位與解決實戰》專欄&#xff0c;完整系列見文末目錄 引言 在前五篇文章中&#xff0c;我們深入探討了JVM生產環境問題定位與解決的實戰技巧&#xff0c;從基礎的jps、jmap、jstat、jstack、jcmd等工具&#xff0c;到JConsole、VisualVM、MAT的…

【5090d】配置運行和微調大模型所需基礎環境【一】

RuntimeError: Failed to import transformers.integrations.bitsandbytes because of the following error (look up to see its traceback): No module named triton.ops 原因&#xff1a;是因為在導入 transformers.integrations.bitsandbytes 時缺少必要的依賴項 triton.op…