本文為您介紹配置數據遷移或數據同步任務時,如何自定義配置增量同步中的 DDL 和 DML 同步。
背景信息
您在配置數據遷移或數據同步任務時,如果在 選擇遷移類型 或 選擇同步類型 步驟選擇了 增量同步,則會默認支持 DML 同步,您可以自定義配置 DML 或 DDL。
DML 同步:配置數據遷移或數據同步任務時,您可以對需要同步的 DML SQL 語句設置同步策略,只有符合設置條件的 SQL 語句才會被同步至目標端。該功能常用于歷史表和交易明細表場景。
DDL 同步:配置數據遷移或數據同步任務時,您可以設置是否同步 DDL。只有設置同步 DDL 后,CREATE、ALTER、DROP 或 TRUNCATE TABLE 等 DDL 語句才會被同步至目標端。該功能常用于長期的數據遷移、數據同步任務,可以顯著降低任務運維的成本。
使用限制
DML 同步
DML 過濾的作用范圍為整個數據遷移或數據同步任務。
不支持對選擇 DML 過濾的數據遷移任務進行全量數據校驗。
DDL 同步
除支持的增量 DDL 類型外,其它類型均不支持。
如果需要同步的表涉及不支持的 DDL 類型,數據遷移或數據同步任務可能會中斷并造成數據問題,且無法恢復。
請勿在結構遷移/結構同步、全量遷移/全量同步階段執行庫或者表結構變更的 DDL 操作,否則可能導致數據遷移或數據同步任務中斷。
操作步驟
將數據遷移或數據同步任務配置至 選擇遷移類型 或 選擇同步類型 步驟。
在 選擇遷移類型 或 選擇同步類型 頁面,勾選 增量同步,DML 同步處于默認勾選狀態。
單擊 自定義配置 DDL/DML。
在 自定義配置 DDL/DML 對話框,選擇需要同步的 DML 或 DDL。
通常 DML 同步支持
insert
、delete
和update
,您可以根據需要進行過濾。不同類型的數據遷移或數據同步任務 DDL 同步支持的范圍請參見 DDL 同步范圍,您可以根據支持的 DDL 同步范圍來自定義配置 DDL。遷移 Lindorm 或 HBase 數據庫的數據至 OBKV 時,DML 同步支持
delete
和put
。當您選擇 增量同步 > DML 同步 時,請聯系阿里云技術支持,確認投遞到 Kafka 的數據具備有序性,否則可能出現數據不一致的風險。Lindorm 的詳情請參見《實時數據訂閱概述》中的 使用限制,HBase 增強版的詳情請參見 Streams(實時數據訂閱)功能介紹。
在 自定義配置 DDL/DML 對話框,單擊 確定。
在 選擇遷移類型 或 選擇同步類型 頁面,單擊 下一步,根據提示完成后續的任務配置。