本文中含有需要您注意的重要提示信息,忽略該信息可能對您的業務造成影響,請務必仔細閱讀。
數據傳輸服務DTS(Data Transmission Service)支持兩個MySQL數據庫之間(比如RDS MySQL、自建MySQL)的雙向數據實時同步,適用于異地多活(單元化)、數據異地容災等多種應用場景。本文以RDS MySQL實例為例,介紹雙向數據同步的配置步驟,其他數據源的配置流程與本案例類似。
前提條件
數據同步的源和目標RDS MySQL實例已存在,如不存在請創建RDS實例。
注意事項
DTS在執行全量數據初始化時將占用源庫和目標庫一定的讀寫資源,可能會導致數據庫的負載上升,在數據庫性能較差、規格較低或業務量較大的情況下(例如源庫有大量慢SQL、存在無主鍵表或目標庫存在死鎖等),可能會加重數據庫壓力,甚至導致數據庫服務不可用。因此您需要在執行數據同步前評估源庫和目標庫的性能,同時建議您在業務低峰期執行數據同步(例如源庫和目標庫的CPU負載在30%以下)。
數據同步時,請勿對源庫的同步對象使用gh-ost或pt-online-schema-change等類似工具執行在線DDL變更,否則會導致同步失敗。
如果除DTS以外的數據沒有寫入目標庫,您可以使用數據管理DMS(Data Management)來執行在線DDL變更,詳情請參見不鎖表結構變更。
目標庫為RDS MySQL或RDS MySQL Serverless實例時(除5.7和8.0版本外),DTS會在目標庫新建一個有寫入權限且僅供DTS內部使用的數據同步賬號dtssyncwriter。
雙向同步實例包含正向和反向同步任務,在配置或重置雙向同步實例時,若其中一個任務的目標對象是另一個任務待同步的對象:
僅允許其中一個任務同步全量和增量數據,另一個任務僅支持同步增量數據。
當前任務的源數據僅支持同步到當前任務的目標端,同步過來的數據不會作為另一個任務的源數據繼續同步。
費用說明
同步類型 | 鏈路配置費用 |
庫表結構同步和全量數據同步 | 不收費。 |
增量數據同步 | 收費,詳情請參見計費概述。 |
支持的同步架構
目前DTS僅支持兩個MySQL數據庫之間的雙向同步,暫不支持多個MySQL數據庫之間的雙向同步。
支持的數據源
MySQL間的雙向數據同步支持以下數據源,本文以RDS MySQL實例為數據源介紹配置流程,其他數據源的配置流程與該案例類似。
同步源數據庫 | 同步目的數據庫 |
|
|
支持同步的SQL操作
操作類型 | SQL操作語句 |
DML | INSERT、UPDATE、DELETE、REPLACE |
DDL |
|
僅正向任務(即源庫同步至目標庫)支持同步DDL,反向任務(即目標庫同步至源庫)不支持同步DDL,將自動過濾DDL操作。
支持的沖突檢測
為保障同步數據的一致性,您需要確保同一個主鍵、業務主鍵或唯一鍵的記錄只在雙向同步的一個節點進行更新。如果同時更新則會按照您在數據同步作業中配置的沖突修復策略進行響應。
DTS通過沖突檢測和修復最大程度地維護雙向同步實例的穩定性。目前DTS支持進行檢測的沖突類型包括:
INSERT導致的唯一性沖突
同步INSERT語句時違背了唯一性約束,例如雙向同步的兩個節點同時或者在極為接近的時間INSERT某個主鍵值相同的記錄,那么同步到對端時,會因為已經存在相同主鍵值的記錄,導致Insert同步失敗。
UPDATE更新的記錄不完全匹配
UPDATE要更新的記錄在同步目標實例中不存在時,DTS會自動轉化為INSERT,此時可能會出現唯一鍵的唯一性沖突。
UPDATE要更新的記錄出現主鍵或唯一鍵沖突。
DELETE對應的記錄不存在
DELETE要刪除的記錄在同步的目標實例中不存在。出現這種沖突時,不論配置何種沖突修復策略,DTS都會自動忽略DELETE操作。
由于數據同步兩端的系統時間可能存在差異、同步存在延時等多種因素,DTS無法完全保證沖突檢測機制能夠完全防止數據的沖突。在使用雙向同步時,您需要在業務層面配合進行相應的改造,保證同一個主鍵、業務主鍵或唯一鍵的記錄只在雙向同步的某個節點進行更新。
對于上述數據同步的沖突,DTS提供了修復策略,您可以在配置雙向同步時選擇。
功能限制
不兼容觸發器
同步對象為整個庫且這個庫中包含了會更新同步表內容的觸發器,那么可能導致同步數據不一致。例如數據庫中存在了兩個表A和B。表A上有一個觸發器,觸發器內容為在INSERT一條數據到表A之后,在表B中插入一條數據。這種情況在同步過程中,如果源實例表A上進行了INSERT操作,則會導致表B在源實例跟目標實例數據不一致。
此類情況須要將目標實例中的對應觸發器刪除掉,表B的數據由源實例同步過去,詳情請參見源庫存在觸發器時如何配置同步或遷移作業。
RENAME TABLE限制
RENAME TABLE操作可能導致同步數據不一致。例如同步對象只包含某個表,如果同步過程中源實例對該表執行了重命名操作,那么該表的數據將不會同步到目標庫。為避免該問題,您可以在數據同步配置時將該表所屬的整個數據庫作為同步對象。
DDL語法同步方向限制
為保障雙向同步鏈路的穩定性,DDL更新只能在其中一個同步方向進行同步。即一旦某個同步方向配置了DDL同步,則在反方向上不支持DDL同步,只進行DML同步。
操作步驟
購買雙向數據同步實例,詳情請參見購買數據同步任務。
重要購買時,源實例和目標實例均選擇為MySQL,并選擇同步拓撲為雙向同步。
登錄數據傳輸控制臺。
說明若數據傳輸控制臺自動跳轉至數據管理DMS控制臺,您可以在右下角的中單擊,返回至舊版數據傳輸控制臺。
在左側導航欄,單擊數據同步。
在同步作業列表頁面頂部,選擇同步的目標實例所屬地域。
定位至已購買的數據同步實例,單擊該實例下第一個同步作業的配置同步鏈路。
重要一個雙向數據同步實例會包含兩個同步作業,需要分別進行配置。
配置同步通道的源實例及目標實例信息。
類別
配置
說明
無
同步作業名稱
DTS會自動生成一個同步作業名稱,建議配置具有業務意義的名稱(無唯一性要求),便于后續識別。
源實例信息
實例類型
選擇RDS實例。
實例地區
購買數據同步實例時選擇的源實例地域信息,不可變更。
實例ID
選擇作為數據同步源的RDS實例ID。
數據庫賬號
填入源RDS的數據庫賬號。
重要當源RDS實例的數據庫類型為MySQL 5.5或MySQL 5.6時,沒有數據庫賬號和數據庫密碼配置選項。
數據庫密碼
填入數據庫賬號對應的密碼。
連接方式
根據需求選擇非加密連接或SSL安全連接。如果設置為SSL安全連接,您需要提前開啟RDS實例的SSL加密功能,詳情請參見設置SSL加密。
目標實例信息
實例類型
選擇RDS實例。
實例地區
購買數據同步實例時選擇的目標實例地域信息,不可變更。
實例ID
選擇作為數據同步目標的RDS實例ID。
數據庫賬號
填入目標RDS的數據庫賬號。
重要當目標RDS實例的數據庫類型為MySQL 5.5或MySQL 5.6時,沒有數據庫賬號和數據庫密碼配置選項。
數據庫密碼
填入數據庫賬號對應的密碼。
連接方式
根據需求選擇非加密連接或SSL安全連接。如果設置為SSL安全連接,您需要提前開啟RDS實例的SSL加密功能,詳情請參見設置SSL加密。
單擊頁面右下角的授權白名單并進入下一步。
如果源或目標數據庫是阿里云數據庫實例(例如RDS MySQL、云數據庫MongoDB版等),DTS會自動將對應地區DTS服務的IP地址添加到阿里云數據庫實例的白名單中;如果源或目標數據庫是ECS上的自建數據庫,DTS會自動將對應地區DTS服務的IP地址添到ECS的安全規則中,您還需確保自建數據庫沒有限制ECS的訪問(若數據庫是集群部署在多個ECS實例,您需要手動將DTS服務對應地區的IP地址添到其余每個ECS的安全規則中);如果源或目標數據庫是IDC自建數據庫或其他云數據庫,則需要您手動添加對應地區DTS服務的IP地址,以允許來自DTS服務器的訪問。DTS服務的IP地址,請參見DTS服務器的IP地址段。
警告DTS自動添加或您手動添加DTS服務的公網IP地址段可能會存在安全風險,一旦使用本產品代表您已理解和確認其中可能存在的安全風險,并且需要您做好基本的安全防護,包括但不限于加強賬號密碼強度防范、限制各網段開放的端口號、內部各API使用鑒權方式通信、定期檢查并限制不需要的網段,或者使用通過內網(專線/VPN網關/智能網關)的方式接入。
配置同步策略及對象信息。
類別
配置
說明
同步策略配置
是否過濾DDL
選擇為是:不同步DDL操作。
選擇為否:同步DDL操作。
重要DDL語法同步方向限制 。為保障雙向同步鏈路的穩定性,只支持正向同步DDL,不支持反向同步DDL。
DML同步類型
選擇需要同步的DML類型,默認為Insert、Update、Delete,您可以根據業務需求調整。
沖突修復策略
選擇同步沖突的修復策略,默認為TaskFailed,您可以根據業務情況選擇合適的沖突修復策略。
TaskFailed(遇到沖突,任務報錯退出)
默認的沖突修復策略。當數據同步遇到上述沖突類型時,同步任務直接報錯并退出,同步任務進入失敗狀態,需要用戶介入修復任務。
Ignore(遇到沖突,直接使用目標實例中的沖突記錄)
當數據同步遇到上述的沖突類型時,直接跳過當前同步語句,繼續往下執行,選擇使用目標庫中的沖突記錄。
Overwrite(遇到沖突,直接覆蓋目標實例中的沖突記錄)
當數據同步遇到上述的沖突類型時,直接覆蓋目標庫中的沖突記錄。
選擇同步對象
無
在源庫對象框中單擊待同步的對象(選擇粒度為庫或表),然后單擊將其移動到已選擇對象框。
重要如果選擇整個庫作為同步對象,該庫中所有對象的結構變更操作都會同步至目標庫。
默認情況下,同步對象的名稱保持不變。如果您需要改變同步對象在目標庫中的名稱,需要使用對象名映射功能,詳情請參見設置同步對象在目標實例中的名稱。
映射名稱更改
無
如需更改同步對象在目標實例中的名稱,請使用對象名映射功能,詳情請參見庫表列映射。
源表DMS_ONLINE_DDL過程中是否復制臨時表到目標庫
無
如源庫使用數據管理DMS(Data Management)執行Online DDL變更,您可以選擇是否同步Online DDL變更產生的臨時表數據。
是:同步Online DDL變更產生的臨時表數據。
說明Online DDL變更產生的臨時表數據過大,可能會導致同步任務延遲。
否:不同步Online DDL變更產生的臨時表數據,只同步源庫的原始DDL數據。
說明該方案會導致目標庫鎖表。
源、目標庫無法連接重試時間
無
當源、目標庫無法連接時,DTS默認重試720分鐘(即12小時),您也可以自定義重試時間。如果DTS在設置的時間內重新連接上源、目標庫,同步任務將自動恢復。否則,同步任務將失敗。
說明由于連接重試期間,DTS將收取任務運行費用,建議您根據業務需要自定義重試時間,或者在源和目標庫實例釋放后盡快釋放DTS實例。
上述配置完成后,單擊頁面右下角的下一步。
配置同步初始化的高級配置信息。
此步驟會將源實例中已經存在同步對象的結構及數據在目標實例中初始化,作為后續增量同步數據的基線數據。同步初始化類型細分為:結構初始化、全量數據初始化。默認情況下,需要選擇結構初始化和全量數據初始化。
重要如果同步對象中有部分表包含在另外一個同步方向的同步對象中,那么這部分表不會進行同步初始化。
上述配置完成后,單擊頁面右下角的預檢查并啟動。
重要在數據同步任務正式啟動之前,會先進行預檢查。只有預檢查通過后,才能成功啟動數據同步任務。
如果預檢查失敗,單擊具體檢查項后的,查看失敗詳情。
您可以根據提示修復后重新進行預檢查。
如無需修復告警檢測項,您也可以選擇確認屏蔽、忽略告警項并重新進行預檢查,跳過告警檢測項重新進行預檢查。
在預檢查對話框中顯示預檢查通過后,關閉預檢查對話框,同步作業將正式開始。
等待該同步作業的鏈路初始化完成,直至狀態處于同步中。
您可以在數據同步頁面,查看數據同步狀態。
定位至第二個同步作業,單擊配置同步鏈路,配置流程參見步驟5到步驟12。
第二個同步作業配置完成后,等待兩個同步作業的鏈路狀態均處于同步中,即完成雙向數據同步的配置流程。