完成數(shù)據(jù)源、網(wǎng)絡(luò)、資源的準(zhǔn)備配置后,您可創(chuàng)建實(shí)時(shí)同步節(jié)點(diǎn),同步數(shù)據(jù)至Hologres。本文為您介紹如何創(chuàng)建數(shù)據(jù)實(shí)時(shí)同步任務(wù),并在創(chuàng)建完成后查看任務(wù)運(yùn)行情況。

前提條件

  1. 已完成數(shù)據(jù)源配置。您需要在數(shù)據(jù)集成同步任務(wù)配置前,配置好您需要同步的源端和目標(biāo)端數(shù)據(jù)庫(kù),以便在同步任務(wù)配置過(guò)程中,可通過(guò)選擇數(shù)據(jù)源名稱來(lái)控制同步任務(wù)的讀取和寫入數(shù)據(jù)庫(kù)。實(shí)時(shí)同步支持的數(shù)據(jù)源及其配置詳情請(qǐng)參見(jiàn)實(shí)時(shí)同步支持的數(shù)據(jù)源
    說(shuō)明 數(shù)據(jù)源相關(guān)能力介紹詳情請(qǐng)參見(jiàn):數(shù)據(jù)源概述
  2. 已購(gòu)買合適規(guī)格的獨(dú)享數(shù)據(jù)集成資源組。詳情請(qǐng)參見(jiàn):新增和使用獨(dú)享數(shù)據(jù)集成資源組
  3. 獨(dú)享數(shù)據(jù)集成資源組與數(shù)據(jù)源網(wǎng)絡(luò)已打通。詳情請(qǐng)參見(jiàn):配置資源組與網(wǎng)絡(luò)連通
  4. 數(shù)據(jù)源環(huán)境已準(zhǔn)備完成:您可以基于您需要進(jìn)行的同步配置,在同步任務(wù)執(zhí)行前,授予數(shù)據(jù)源配置的賬號(hào)在數(shù)據(jù)庫(kù)進(jìn)行相應(yīng)操作的權(quán)限。詳情請(qǐng)參見(jiàn):數(shù)據(jù)庫(kù)環(huán)境準(zhǔn)備概述

使用限制

  • 實(shí)時(shí)數(shù)據(jù)同步任務(wù)僅支持使用獨(dú)享數(shù)據(jù)集成資源組。

  • 實(shí)時(shí)數(shù)據(jù)同步任務(wù)暫不支持同步?jīng)]有主鍵的表。

創(chuàng)建實(shí)時(shí)同步任務(wù)

  1. 創(chuàng)建整庫(kù)實(shí)時(shí)同步節(jié)點(diǎn)
  2. 配置資源組
  3. 設(shè)置同步來(lái)源和規(guī)則。
    1. 數(shù)據(jù)來(lái)源區(qū)域,選擇要同步的數(shù)據(jù)源類型數(shù)據(jù)源名稱等信息。
    2. 選擇要同步的表。
      選擇同步的源表區(qū)域,為您展示所選數(shù)據(jù)源下所有的表,您可以在源端庫(kù)表區(qū)域選中需要同步的整庫(kù)全表或部分表,并單擊圖標(biāo)圖標(biāo),將其移動(dòng)至已選庫(kù)表
      重要 如果選中的表沒(méi)有主鍵,將無(wú)法進(jìn)行實(shí)時(shí)同步。
    3. 設(shè)置表(庫(kù))名的映射規(guī)則區(qū)域,單擊添加規(guī)則,選擇相應(yīng)的規(guī)則進(jìn)行添加。
      同步時(shí)默認(rèn)將源端數(shù)據(jù)表寫入目的端同名schema或同名表中,同時(shí),您可以通過(guò)添加映射規(guī)則定義最終寫入目的端的schema或表名稱,實(shí)現(xiàn)將多張表數(shù)據(jù)寫入到同一個(gè)目標(biāo)表中,或統(tǒng)一將源端某固定前綴的表名在寫入目標(biāo)表時(shí)更新為其他前綴。支持通過(guò)正則表達(dá)式轉(zhuǎn)換寫入的schema名或表名,還支持使用內(nèi)置變量拼接目標(biāo)表名。配置邏輯請(qǐng)參見(jiàn):設(shè)置來(lái)源和同步規(guī)則
  4. 設(shè)置目標(biāo)表。
    1. 設(shè)置寫入Hologres策略
      寫入Hologres策略目前僅支持重放,重放表示鏡像功能,即源端INSERT一條記錄,Hologres中也INSERT一條記錄;源端執(zhí)行UPDATE或DELETE操作,Hologres中也進(jìn)行UPDATE或DELETE。
    2. 刷新源表和Hologres表映射。
      單擊刷新源表和Hologres表映射,將根據(jù)您在步驟3配置的目標(biāo)文件映射規(guī)則來(lái)生成目標(biāo)表,若步驟3未配置映射規(guī)則,將默認(rèn)寫入與源表同名的目標(biāo)表,若目標(biāo)端不存在該同名表,將默認(rèn)新建。同時(shí),您可以修改表建立方式、為目標(biāo)表在源有表字段基礎(chǔ)上增加附加字段。
      功能描述
      為非主鍵表選擇主鍵由于當(dāng)前方案不支持無(wú)主鍵表同步,所以您需要單擊同步主鍵列的編輯按鈕,為無(wú)主鍵表設(shè)置自選主鍵,即選擇表中一個(gè)或部分字段作為主鍵。
      選擇表建立方式支持自動(dòng)建表使用已有表
      • 當(dāng)表建立方式選擇使用已有表時(shí),您可以在Hologres表名列對(duì)應(yīng)的下拉列表中選擇需要使用的表名稱。
      • 當(dāng)表建立方式選擇自動(dòng)建表時(shí),Hologres表名列顯示自動(dòng)創(chuàng)建的Hologres表名稱。您可以單擊表名稱,查看和修改建表語(yǔ)句。
      為目標(biāo)字段添加附加字段單擊操作列的編輯附加字段,可以為目標(biāo)表在源端字段的基礎(chǔ)上增加字段并為字段賦值。支持手動(dòng)賦值常量與變量。
      說(shuō)明 僅在表建立方式自動(dòng)建表時(shí),可以使用此功能。
      數(shù)據(jù)集成附加字段支持的變量字段如下:
      EXECUTE_TIME:執(zhí)行時(shí)間
      UPDATE_TIME:更新時(shí)間
      DB_NAME_SRC:原始數(shù)據(jù)庫(kù)名稱
      DB_NAME_SRC_TRANSED:轉(zhuǎn)換后數(shù)據(jù)庫(kù)名稱
      DATASOURCE_NAME_SRC:源端數(shù)據(jù)源名稱
      DATASOURCE_NAME_DEST:目的端數(shù)據(jù)源名稱
      DB_NAME_DEST:目的端數(shù)據(jù)庫(kù)名稱
      TABLE_NAME_DEST:目的端表名稱
      TABLE_NAME_SRC:源端表名稱
    3. 單擊下一步
      如果您前一步中目標(biāo)數(shù)據(jù)源使用的表建立方式自動(dòng)建表,則需要在彈出的自動(dòng)建表對(duì)話框,單擊開(kāi)始建表,批量創(chuàng)建目標(biāo)Hologres表。
  5. 設(shè)置表粒度同步規(guī)則。
    即當(dāng)源表發(fā)生插入、更新、刪除時(shí),您可以在此處定義對(duì)應(yīng)的處理策略。
    • 正常處理:源端DML消息將會(huì)繼續(xù)下發(fā)給目標(biāo)數(shù)據(jù)源,由目標(biāo)數(shù)據(jù)源來(lái)處理。
    • 忽略:直接丟棄該消息,不再向目標(biāo)數(shù)據(jù)源發(fā)送對(duì)應(yīng)的DML消息,對(duì)應(yīng)數(shù)據(jù)不會(huì)改變。
    • 有條件的正常處理:選擇后,您可以配置過(guò)濾條件,同步任務(wù)將按照您配置的過(guò)濾表達(dá)式對(duì)源端數(shù)據(jù)進(jìn)行過(guò)濾,滿足過(guò)濾條件的數(shù)據(jù)會(huì)被正常處理,不滿足的會(huì)被忽略掉。
  6. DDL消息處理規(guī)則設(shè)置。

    來(lái)源數(shù)據(jù)源會(huì)包含許多DDL操作,數(shù)據(jù)集成體提供默認(rèn)處理策略,您也可以根據(jù)業(yè)務(wù)需求,對(duì)不同的DDL消息設(shè)置同步至目標(biāo)端的處理策略。不同DDL消息處理策略請(qǐng)參見(jiàn):DDL消息處理規(guī)則

  7. 運(yùn)行資源設(shè)置。
    1. 運(yùn)行資源設(shè)置頁(yè)面,配置各項(xiàng)參數(shù)。
      參數(shù)描述
      來(lái)源端讀取支持最大連接數(shù)讀取端的最大連接數(shù),即來(lái)源端數(shù)據(jù)庫(kù)的JDBC連接數(shù)。請(qǐng)根據(jù)數(shù)據(jù)庫(kù)資源的實(shí)際情況合理配置。默認(rèn)為15
      目標(biāo)端寫入并發(fā)數(shù)數(shù)據(jù)同步任務(wù)內(nèi),可以從來(lái)源表并行讀取或?qū)懭霐?shù)據(jù)至目標(biāo)端的最大線程數(shù)。最大并發(fā)數(shù)為32。請(qǐng)根據(jù)您的資源組大小和目標(biāo)端實(shí)際規(guī)模合理設(shè)置。
    2. 單擊完成配置

提交并發(fā)布實(shí)時(shí)同步任務(wù)

  1. 單擊工具欄中的保存圖標(biāo),保存節(jié)點(diǎn)。
  2. 單擊工具欄中的提交圖標(biāo),提交節(jié)點(diǎn)任務(wù)。
  3. 提交新版本對(duì)話框中,輸入變更描述
  4. 單擊確定
    如果您使用的是標(biāo)準(zhǔn)模式的工作空間,任務(wù)提交成功后,需要將任務(wù)發(fā)布至生產(chǎn)環(huán)境進(jìn)行發(fā)布。請(qǐng)單擊頂部菜單欄左側(cè)的任務(wù)發(fā)布。具體操作請(qǐng)參見(jiàn)發(fā)布任務(wù)

后續(xù)步驟

任務(wù)配置完成后,您可以在運(yùn)維中心 > 實(shí)時(shí)任務(wù)運(yùn)維 > 實(shí)時(shí)同步任務(wù)面板啟動(dòng)并管理該任務(wù),詳情請(qǐng)參見(jiàn):實(shí)時(shí)同步任務(wù)運(yùn)維