在配置同步到Kafka的數據同步作業時,為提升同步的性能,您可以調整Kafka Partition(分區)同步策略,例如根據Hash結果將數據同步至不同的Partition。
Hash算法
DTS采用Java默認的hashcode算法來計算Hash值。
配置方法
您需要在配置數據同步作業的選擇同步對象環節中配置Kafka Partition同步策略。配置案例請參見從RDS同步至自建Kafka集群,更多相關案例請參見DTS數據同步方案概覽。
警告 數據同步作業啟動后,請勿修改目標Topic的Partition數量,否則將導致數據同步失敗。
策略說明
策略名稱 | 說明 | 優缺點 |
---|---|---|
全部投遞到Partition 0 | 將所有數據和DDL信息都投遞到目標Topic的Partition 0。 |
|
按庫名+表名的hash值投遞到不同Partition | 將庫名與表名合并作為Partition Key來計算Hash值,然后將各個表的數據和DDL信息投遞到目標Topic中的各個Partition。 說明
|
|
按主鍵的hash值投遞到不同Partition | 將表中的列(默認為主鍵,如果無主鍵則使用唯一鍵)作為Partition Key來計算Hash值,然后將不同的行投遞到目標Topic的各個Partition中。您也可以指定單個或多個列作為Partition Key來計算Hash值。 說明
|
|