限速歷史數(shù)據(jù)遷移任務(wù)
在數(shù)據(jù)遷移過程中,如果遷移速度過快可能會導(dǎo)致目標(biāo)集群負(fù)載過高,影響系統(tǒng)性能。此外,速度過快還可能會增加網(wǎng)絡(luò)延遲造成數(shù)據(jù)丟失,無法保證數(shù)據(jù)的完整性。為了避免系統(tǒng)過載并確保數(shù)據(jù)的一致性,您可以通過LTS控制臺對遷移任務(wù)進行限速。
背景信息
LTS會將遷移、同步任務(wù)拆分為多個線程任務(wù)由Worker節(jié)點執(zhí)行,因此,總限速的計算方式為:單個線程任務(wù)的限速 * 每個Worker的線程數(shù) * Worker節(jié)點總數(shù)
。
Worker節(jié)點總數(shù)為您購買LTS時選擇的LTS節(jié)點數(shù)量。您可以通過LTS控制臺查看Worker節(jié)點總數(shù),具體請參見查看Worker節(jié)點總數(shù)。
前提條件
已檢查源集群、目標(biāo)集群、LTS的網(wǎng)絡(luò)連通性。
已添加Lindorm數(shù)據(jù)源。如何添加,請參見添加Lindorm寬表數(shù)據(jù)源。
注意事項
遷移前請確認(rèn)目標(biāo)實例的HDFS容量,確保可用容量足以支撐數(shù)據(jù)遷移,避免遷移過程中出現(xiàn)容量已滿導(dǎo)致任務(wù)失敗的情況。
查看Worker節(jié)點總數(shù)
在左側(cè)導(dǎo)航欄,單擊集群信息。
在基本信息區(qū)域,查看Worker節(jié)點總量。您也可以在worker節(jié)點信息區(qū)域,查看當(dāng)前實例的Worker節(jié)點的詳細(xì)信息。
全局配置
您可以通過全局配置限速所有歷史數(shù)據(jù)遷移任務(wù),也可以在創(chuàng)建遷移任務(wù)時通過配置高級參數(shù)來對單個任務(wù)進行限速。
在頁面右上角,單擊配置管理。
在配置管理頁面,修改以下配置項的現(xiàn)有值:
bds.full.reader.bandwidth:單個線程任務(wù)的最大帶寬。單位為Byte/s。
bds.full.task.pool.size:每個Worker節(jié)點可處理的線程任務(wù)數(shù)量。單位為個。
單擊左下角的修改,保存配置。
限速單個遷移任務(wù)
您可以從以下兩個方面對單個遷移任務(wù)進行限速:
單個線程任務(wù)的最大帶寬:需在創(chuàng)建遷移任務(wù)時通過高級參數(shù)進行配置。配置后僅對該任務(wù)生效,優(yōu)先級大于全局配置。
每個Worker處理的線程數(shù):全局配置,必須通過配置管理修改。
限速單個線程任務(wù)的最大帶寬
在LTS控制臺的左側(cè)導(dǎo)航欄,選擇
。單擊創(chuàng)建任務(wù)。
填寫并勾選相關(guān)參數(shù):源集群、目標(biāo)集群、表結(jié)構(gòu)遷移、同步/遷移的表。
在高級配置填寫限速參數(shù)bandWidth。bandWidth的單位為Byte/s。例如想要限速最大帶寬為10 MB/s,則需填寫
{"bandWidth": 10485760}
。單擊創(chuàng)建,創(chuàng)建任務(wù)并保存配置。
限制每個Worker處理的線程數(shù)
每個Worker節(jié)點可處理的線程任務(wù)數(shù)量(bds.full.task.pool.size)不支持通過具體任務(wù)的高級配置進行設(shè)置,必須通過配置管理修改。具體操作如下:
在LTS控制臺的右上角,單擊配置管理。
在配置管理頁面,修改bds.full.task.pool.size的現(xiàn)有值。
單擊修改,保存配置。