數據遷移探索

概念

數據遷移是指將數據從一個計算環境或存儲系統移動到另一個計算環境或存儲系統。

隨著公司業務的發展,出于成本優化、系統升級、分庫分表、整合數據等原因。數據遷移工作在日常工作中會陸續出現。

我們可以將數據遷移分成兩個部分,第一部分是數據遷移,第二部分是寫入數據切換

數據遷移

這一部分我們的目標是把舊數據庫的數據同步到新的數據庫,并且保證在線系統新產生的數據也會實時的同步到新數據庫

這里我們會遇到兩種方式的選擇

第一種 二階段遷移

數據會被切分成遷移開始之前和之后兩份數據

遷移開始之前的數據我們通常會用批量selectinsert的方式同步到新數據庫

遷移開始之后的數據,通過讀取遷移開始之后binlog的方式同步到新數據庫

當同步的數據量特別大的時候,我們需要注意一個問題binlog是會設置保存時長的。當數據量很大的時候,會存在當第一階段耗時很長,當第二階段開始時,binlog的數據已經開始出現失效的情況

第二種 實時遷移

在這種方式中數據也會分成遷移開始之前和之后兩份數據

不過在遷移中兩份數據不會分成先后導入到新數據庫,會按照批次將兩份數據按照先后進行合并,再導入到新數據庫

雖然解決了第一種方式binlog失效的問題,但是由于加了合并的動作,寫入的效率并沒有第一種方式高

寫入數據切換

當數據遷移完成后,我們將進入數據遷移的第二個部分

我們立即會想到的就是找個業務低峰期直接將寫入服務從老數據切換到新數據庫

即使是單節點的服務,在重啟時也是會有可能存在新的數據開始寫入新的數據庫之后任然有老數據庫同步過來的數據,這時自增id就會出現異常。

所以最安全的操作就是服務停機,等待新庫確認已經同步了老庫的所有數據記錄,再重新開啟服務,寫入新庫

由于業務復雜性、業務量的增加,停服對許多業務來說是盡量避免的,那我們就沒有不停服寫入數據的辦法嗎

雙寫

通常我們可以使用雙寫的方式來實現這個切換

但是這個方式對代碼的入侵性和開發復雜度也是巨大的

代理方式

通過設計代理模式,接管新舊數據庫的切換工作,在服務內集成了數據比對和切換的工作,保證在不停機的情況下,安全的進行遷移數據切換

總結

考慮到不同服務業務需求。我們覺得如果服務存在停機的可能性,停機遷移肯定是最最安全的方式。如果在不能停服的前提下,少量表的遷移,雙寫是不錯的方式。如果不停服,并且全表遷移,代理方式是更合適的方式。

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/web/42319.shtml
繁體地址,請注明出處:http://hk.pswp.cn/web/42319.shtml
英文地址,請注明出處:http://en.pswp.cn/web/42319.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

springboot高職院校畢業生信息管理系統-計算機畢業設計源碼27889

摘 要 基于Java語言開發的高職院校畢業生信息管理系統旨在提供一個便捷、高效的方式來管理畢業生的相關信息。系統包括學生基本信息管理、成績管理、就業信息管理等模塊,通過界面友好、操作簡單的設計,方便管理員快速查詢和更新學生信息。系統還提供數據…

采用前后端分離技術架構+java語言開發的全套產科信息管理系統源碼 可與醫院HIS、LIS、PACS、RIS等系統進行對接

采用前后端分離技術架構java語言開發的全套產科信息管理系統源碼 可與醫院HIS、LIS、PACS、RIS等系統進行對接 什么是產科信息管理系統-建檔管理? 產科信息管理系統建檔管理通過信息技術實現了孕產婦健康信息的電子化、網絡化和智能化管理,提高了醫療服…

Riscv 架構的合規測試

為啥直接關注riscv-arch-test,是因為RISCOF 測試框架使用的是riscv-arch-test 1. The architectural test 架構測試是一個單一的測試,代表了可編譯和運行的最小測試代碼。它是用匯編代碼編寫的,其產品是test signature。一個架構測試可能由…

微信小程序推送消息java版

需求背景 使用springboot2微信小程序推送消息。百度了一下看了一篇文章整體還可以,這里推薦一下。 教程解析 1、微信平臺開通訂閱消息。 2、添加模板。 3、springboot后臺接口開發 微信平臺驗證地址接口開發,然后部署到公網服務器。 4、微信平臺驗…

基于FPGA的數字信號處理(15)--定點數的舍入模式(6)向0取整fix

前言 在之前的文章介紹了定點數為什么需要舍入和幾種常見的舍入模式。今天我們再來看看另外一種舍入模式:向上取整fix。 10進制數的fix fix:也叫 向0取整。它的舍入方式是數據往0的方向,舍入到最近的整數,比如1.75 fix到2&#xf…

Docker技術簡介

Docker是一種開源的容器化平臺,旨在簡化應用程序的創建、部署和運行過程。它通過將應用程序及其所有依賴項打包到一個稱為容器的可移植單元中來實現這一目標。以下是Docker技術的簡介: Docker的核心概念 1、容器(Container)&…

將WordPress的文章重新排序的3個方法

有效的調整文章顯示順序看開可以更好突出內容,還可以保持網站的新鮮感,今天我將帶您了解三種方法,通過重新排序文章顯著提升網站的吸引力。我們將逐步講解從調整設置到使用插件以及“置頂”文章的每一種方法,確保WordPress 新手也…

Linux將mysql導出

1、基礎導出 要在Linux系統中將MySQL數據庫導出,通常使用mysqldump命令行工具。以下是一個基本的命令示例,用于導出整個數據庫: mysqldump -u username -p database_name > export_filename.sql 其中: username 是你的MySQL用…

利用python進行數據分析 —— python正則表達式(持續更新中!)

文章目錄 利用python進行數據分析 —— python基礎知識進階重點筆記:正則表達式re.match 匹配開頭re.search 全文匹配re.sub 替換刪除re.compile 編譯正則findall 返回列表finditer 返回迭代器re.split 分割返回列表(?P...) 分組匹配正則表達符號、修飾符通配符1 ^…

谷歌上新!最強開源模型Gemma 2,27B媲美LLaMA3 70B,挑戰3140億Grok-1

文章目錄 LMSYS Chatbot Arena:開源模型性能第一Gemma為什么這么強?架構創新對AI安全性的提升 A領域競爭激烈,GPT-4o 和 Claude 3.5 Sonnet 持續發力,谷歌迅速跟進。 谷歌為應對AI競爭所采取的策略:依靠 Gemini 閉源模…

hdu物聯網硬件實驗3 按鍵和中斷

學院 班級 學號 姓名 日期 成績 實驗題目 按鍵和中斷 實驗目的 實現閃燈功能轉換 硬件原理 無 關鍵代碼及注釋 /* Button Turns on and off a light emitting diode(LED) connected to digital pin 13, when pressing a pushbutton attached…

AI端側大模型未來發展趨勢

一、定義與優勢 端側AI大模型是指基于移動終端設備上的大型神經網絡模型,這些模型能夠在本地設備(如智能手機、PC、汽車、XR以及物聯網設備等)上直接運行和處理人工智能算法,實現如圖像識別、語音識別、自然語言處理等任務。端側…

解決WSL2報錯:當前電腦配置不支持WSL2,請啟用虛擬機平臺 Windows 功能并確保在 BIOS 中啟用虛擬化

事情要追溯到突發奇想下載了騰訊的手游模擬器開始。。。因為一直閃退,模擬器自檢就要求把虛擬化功能關閉了,結果還是一直閃退,WSL2也給我報錯了。。。大無語 主要通過以下兩個步驟解決,操作了之后需要把電腦重啟: 一、…

docker里日志分割的方法

在Docker中對日志進行按大小分割(log rotation)是一個常見的需求,因為長時間運行的容器可能會生成大量日志,導致磁盤空間不足。Docker提供了內置的日志管理功能,可以通過配置日志驅動來實現日志的自動分割。以下是具體…

安卓系統裁剪原生app

目錄 前言一、修改build目錄main.mk二、修改build目錄product.mk三、在.mk中使用PRODUCT_DEL_PACKAGES屬性 前言 安卓系統裁剪預置應用或服務基本步驟 一、修改build目錄main.mk ifdef FULL_BUILD# The base list of modules to build for this product is specified# by th…

小程序做自定義分享封面圖,Canvas base64圖片數據真機上不顯示?【已解決】

首選說一下需求,做一個小程序分享,但是封面圖要自定義,除了要有對應商品還有有背景圖,商品名。類似這種 實現邏輯,把商品圖和背景圖,再加上價格和商品名用canvas 渲染出來 這是弄好之后的效果圖&#xff0…

管理者要勇敢做“壞人”

有點正義感的人都對壞人深惡痛絕,但在團隊管理上,有一種觀念或許會讓你感到意外,那就是管理者要敢于做“壞人”。這并不是讓管理者去做惡,而是在某些關鍵時刻,要有勇氣打破常規的“好人”形象,做出不受歡迎…

執行數據庫語句時沒有報錯,并且提示執行成功,但在數據庫中沒有新增數據

這可能是因為你沒有提交事務。在執行 INSERT、UPDATE 或 DELETE 等修改數據的操作后,需要明確地提交事務才能將更改持久化到數據庫中。 以下是一個示例,展示python中如何在執行 INSERT 語句后提交事務: import pymysql# MySQL數據庫連接配置…

SpringSecurity中文文檔(Servlet Method Security)

Method Security 除了在請求級別進行建模授權之外&#xff0c;Spring Security 還支持在方法級別進行建模。 您可以在應用程序中激活它&#xff0c;方法是使用EnableMethodSecurity 注釋任何Configuration 類&#xff0c;或者將 < method-security > 添加到任何 XML 配…

springbootAl農作物病蟲害預警系統-計算機畢業設計源碼21875

摘要 隨著農業現代化的推進&#xff0c;農作物病蟲害的防治已成為農業生產中的重要環節。傳統的病蟲害防治方法往往依賴于農民的經驗和觀察&#xff0c;難以準確、及時地預測和防控病蟲害的發生。因此&#xff0c;開發一種基于現代信息技術的農作物病蟲害預警系統&#xff0c;對…