本文中含有需要您注意的重要提示信息,忽略該信息可能對您的業務造成影響,請務必仔細閱讀。
數據傳輸服務DTS(Data Transmission Service)支持將自建Oracle遷移至云原生數據倉庫AnalyticDB PostgreSQL,幫助您構建實時數倉。
前提條件
自建Oracle數據庫的版本為9i、10g、11g、12c、18c或19c版本。
自建Oracle數據庫已開啟歸檔模式(ARCHIVELOG),設置合理的歸檔日志保持周期且歸檔日志能夠被訪問,詳情請參見ARCHIVELOG。
自建Oracle數據庫已開啟Supplemental Logging,且已開啟supplemental_log_data_pk和supplemental_log_data_ui,詳情請參見Supplemental Logging。
目標云原生數據倉庫AnalyticDB PostgreSQL實例的創建方式,請參見創建云原生數據倉庫AnalyticDB PostgreSQL實例。
費用說明
遷移類型 | 鏈路配置費用 | 公網流量費用 |
結構遷移和全量數據遷移 | 不收費。 | 通過公網將數據遷移出阿里云時將收費,詳情請參見計費概述。 |
增量數據遷移 | 收費,詳情請參見計費概述。 |
注意事項
DTS在執行全量數據遷移時將占用源庫和目標庫一定的讀寫資源,可能會導致數據庫的負載上升,您需要在執行數據遷移前評估數據遷移對源庫和目標庫性能的影響,同時建議您在業務低峰期執行數據遷移。
對于遷移失敗的任務,DTS會觸發自動恢復。在您將業務切換至目標庫之前,請務必先停止或釋放該任務,避免該任務被自動恢復,導致源端數據覆蓋目標庫的數據。
僅支持表級別的遷移,且目標表暫不支持AO表。
若使用列映射時為非全表遷移或者源與目標表結構不一致,則目標端比源端缺少的列的數據將會丟失。
- 如自建Oracle為RAC結構,且需接入阿里云VPC,為保證DTS任務成功運行,您需要將Oracle RAC的SCAN IP和每個節點的VIP均接入至阿里云VPC,并且配置路由。具體步驟,請參見通過VPN網關實現本地IDC與DTS云服務互通。重要 在DTS控制臺上配置源Oracle數據庫信息時,在數據庫地址或者IP地址只需輸入Oracle RAC的SCAN IP。
遷移類型說明
遷移類型 | 說明 |
結構遷移 | DTS將源庫中待遷移對象的結構定義遷移到目標庫。目前DTS支持的對象包括:table、index、constraint、function、sequence和view。 警告
|
全量數據遷移 | DTS將源庫中待遷移對象的存量數據全部遷移至目標庫。 說明 在結構遷移和全量數據遷移完成之前,請勿對遷移對象執行DDL操作,否則可能導致遷移失敗。 |
增量數據遷移 | DTS在全量數據遷移的基礎上輪詢并捕獲自建Oracle數據庫產生的redo log,將自建Oracle數據庫的增量更新數據實時遷移至目標庫。 在增量數據遷移階段,DTS支持同步的SQL語句如下:
通過增量數據遷移可以實現在自建應用不停服的情況下,平滑地完成數據遷移。 |
數據庫賬號所需權限
數據庫 | 結構遷移 | 全量遷移 | 增量數據遷移 |
自建Oracle數據庫 | Schema的Owner權限 | Schema的Owner權限 | DBA |
云原生數據倉庫AnalyticDB PostgreSQL | 目標庫的讀寫權限 | 目標庫的讀寫權限 | 目標庫的讀寫權限 |
數據庫賬號創建及授權方法:
自建Oracle數據庫請參見CREATE USER和GRANT。
云原生數據倉庫AnalyticDB PostgreSQL請參見設置賬號。
如果需要執行增量數據遷移,但是不允許授予DBA權限,您可以參照以下內容為數據庫賬號授予更精細化的權限。
Oracle的日志開啟和精細化授權
如需遷移增量數據,且不允許授予DBA權限,您需要按照如下方法開啟歸檔和補充日志,并為Oracle數據庫賬號授予更精細化的權限。
開啟歸檔和補充日志。
日志類型
開啟步驟
歸檔日志
執行如下命令,開啟歸檔日志:
shutdown immediate; startup mount; alter database archivelog; alter database open; archive log list;
補充日志
按業務需求,選擇開啟庫級別補充日志或者表級別補充日志:
說明開啟庫級別補充日志,則DTS任務運行更為穩定;開啟表級別補充日志,則更節約源Oracle數據庫的磁盤空間。
開啟庫級別補充日志
打開最小補充日志:
alter database add supplemental log data;
開啟庫級主鍵、唯一鍵補充日志:
alter database add supplemental log data (primary key,unique index) columns;
開啟表級補充日志
打開最小補充日志:
alter database add supplemental log data;
開啟表級補充日志(兩者選其一) :
開啟表級別主鍵補充日志
alter table table_name add supplemental log data (primary key) columns;
開啟表級別全字段補充日志
alter table tb_name add supplemental log data (all) columns;
記錄日志
執行如下命令,開啟記錄日志:
alter database force logging;
為Oracle數據庫賬號授予更精細化的權限。
Oracle 9i~11g版本
#創建數據庫賬號(以rdsdt_dtsacct為例)并進行授權 create user rdsdt_dtsacct IDENTIFIED BY rdsdt_dtsacct; grant create session to rdsdt_dtsacct; grant connect to rdsdt_dtsacct; grant resource to rdsdt_dtsacct; grant execute on sys.dbms_logmnr to rdsdt_dtsacct; grant select on V_$LOGMNR_LOGS to rdsdt_dtsacct; grant select on all_objects to rdsdt_dtsacct; grant select on all_tab_cols to rdsdt_dtsacct; grant select on dba_registry to rdsdt_dtsacct; grant select any table to rdsdt_dtsacct; grant select any transaction to rdsdt_dtsacct; -- v$log privileges grant select on v_$log to rdsdt_dtsacct; -- v$logfile privileges grant select on v_$logfile to rdsdt_dtsacct; -- v$archived_log privileges grant select on v_$archived_log to rdsdt_dtsacct; -- v$parameter privileges grant select on v_$parameter to rdsdt_dtsacct; -- v$database privileges grant select on v_$database to rdsdt_dtsacct; -- v$active_instances privileges grant select on v_$active_instances to rdsdt_dtsacct; -- v$instance privileges grant select on v_$instance to rdsdt_dtsacct; -- v$logmnr_contents privileges grant select on v_$logmnr_contents to rdsdt_dtsacct; -- system tables grant select on sys.USER$ to rdsdt_dtsacct; grant select on SYS.OBJ$ to rdsdt_dtsacct; grant select on SYS.COL$ to rdsdt_dtsacct; grant select on SYS.IND$ to rdsdt_dtsacct; grant select on SYS.ICOL$ to rdsdt_dtsacct; grant select on SYS.CDEF$ to rdsdt_dtsacct; grant select on SYS.CCOL$ to rdsdt_dtsacct; grant select on SYS.TABPART$ to rdsdt_dtsacct; grant select on SYS.TABSUBPART$ to rdsdt_dtsacct; grant select on SYS.TABCOMPART$ to rdsdt_dtsacct; grant select_catalog_role TO rdsdt_dtsacct;
Oracle 12c~19c(租戶式)
#切換至PDB,創建數據庫賬號(以rdsdt_dtsacct為例)并進行授權 ALTER SESSION SET container = ORCLPDB1; create user rdsdt_dtsacct IDENTIFIED BY rdsdt_dtsacct; grant create session to rdsdt_dtsacct; grant connect to rdsdt_dtsacct; grant resource to rdsdt_dtsacct; grant execute on sys.dbms_logmnr to rdsdt_dtsacct; grant select on all_objects to rdsdt_dtsacct; grant select on all_tab_cols to rdsdt_dtsacct; grant select on dba_registry to rdsdt_dtsacct; grant select any table to rdsdt_dtsacct; grant select any transaction to rdsdt_dtsacct; -- v$log privileges grant select on v_$log to rdsdt_dtsacct; -- v$logfile privileges grant select on v_$logfile to rdsdt_dtsacct; -- v$archived_log privileges grant select on v_$archived_log to rdsdt_dtsacct; -- v$parameter privileges grant select on v_$parameter to rdsdt_dtsacct; -- v$database privileges grant select on v_$database to rdsdt_dtsacct; -- v$active_instances privileges grant select on v_$active_instances to rdsdt_dtsacct; -- v$instance privileges grant select on v_$instance to rdsdt_dtsacct; -- v$logmnr_contents privileges grant select on v_$logmnr_contents to rdsdt_dtsacct; grant select on sys.USER$ to rdsdt_dtsacct; grant select on SYS.OBJ$ to rdsdt_dtsacct; grant select on SYS.COL$ to rdsdt_dtsacct; grant select on SYS.IND$ to rdsdt_dtsacct; grant select on SYS.ICOL$ to rdsdt_dtsacct; grant select on SYS.CDEF$ to rdsdt_dtsacct; grant select on SYS.CCOL$ to rdsdt_dtsacct; grant select on SYS.TABPART$ to rdsdt_dtsacct; grant select on SYS.TABSUBPART$ to rdsdt_dtsacct; grant select on SYS.TABCOMPART$ to rdsdt_dtsacct; -- V$PDBS privileges grant select on V_$PDBS to rdsdt_dtsacct; grant select on v$database to rdsdt_dtsacct; grant select on dba_objects to rdsdt_dtsacct; grant select on DBA_TAB_COMMENTS to rdsdt_dtsacct; grant select on dba_tab_cols to rdsdt_dtsacct; grant select_catalog_role TO rdsdt_dtsacct; #切換至CDB$ROOT,并進行賬號創建并授權 ALTER SESSION SET container = CDB$ROOT; #創建數據庫賬號(以rdsdt_dtsacct為例)并進行授權,您需修改Oracle數據庫的默認參數。 alter session set "_ORACLE_SCRIPT"=true; create user rdsdt_dtsacct IDENTIFIED BY rdsdt_dtsacct; grant create session to rdsdt_dtsacct; grant connect to rdsdt_dtsacct; grant select on v_$logmnr_contents to rdsdt_dtsacct; grant LOGMINING TO rdsdt_dtsacct; grant EXECUTE_CATALOG_ROLE to rdsdt_dtsacct; grant execute on sys.dbms_logmnr to rdsdt_dtsacct;
Oracle 12c~19c(非租戶式)
#創建數據庫賬號(以rdsdt_dtsacct為例)并進行授權 create user rdsdt_dtsacct IDENTIFIED BY rdsdt_dtsacct; grant create session to rdsdt_dtsacct; grant connect to rdsdt_dtsacct; grant resource to rdsdt_dtsacct; grant select on V_$LOGMNR_LOGS to rdsdt_dtsacct; grant select on all_objects to rdsdt_dtsacct; grant select on all_tab_cols to rdsdt_dtsacct; grant select on dba_registry to rdsdt_dtsacct; grant select any table to rdsdt_dtsacct; grant select any transaction to rdsdt_dtsacct; grant select on v$database to rdsdt_dtsacct; grant select on dba_objects to rdsdt_dtsacct; grant select on DBA_TAB_COMMENTS to rdsdt_dtsacct; grant select on dba_tab_cols to rdsdt_dtsacct; -- v$log privileges grant select on v_$log to rdsdt_dtsacct; -- v$logfile privileges grant select on v_$logfile to rdsdt_dtsacct; -- v$archived_log privileges grant select on v_$archived_log to rdsdt_dtsacct; -- v$parameter privileges grant select on v_$parameter to rdsdt_dtsacct; -- v$database privileges grant select on v_$database to rdsdt_dtsacct; -- v$active_instances privileges grant select on v_$active_instances to rdsdt_dtsacct; -- v$instance privileges grant select on v_$instance to rdsdt_dtsacct; -- v$logmnr_contents privileges grant select on v_$logmnr_contents to rdsdt_dtsacct; grant select on sys.USER$ to rdsdt_dtsacct; grant select on SYS.OBJ$ to rdsdt_dtsacct; grant select on SYS.COL$ to rdsdt_dtsacct; grant select on SYS.IND$ to rdsdt_dtsacct; grant select on SYS.ICOL$ to rdsdt_dtsacct; grant select on SYS.CDEF$ to rdsdt_dtsacct; grant select on SYS.CCOL$ to rdsdt_dtsacct; grant select on SYS.TABPART$ to rdsdt_dtsacct; grant select on SYS.TABSUBPART$ to rdsdt_dtsacct; grant select on SYS.TABCOMPART$ to rdsdt_dtsacct; grant LOGMINING TO rdsdt_dtsacct; grant EXECUTE_CATALOG_ROLE to rdsdt_dtsacct; grant execute on sys.dbms_logmnr to rdsdt_dtsacct; grant select_catalog_role TO rdsdt_dtsacct;
說明關于Oracle(租戶式)的更多信息,請參見Oracle數據庫多租戶。
操作步驟
登錄數據傳輸控制臺。
說明若數據傳輸控制臺自動跳轉至數據管理DMS控制臺,您可以在右下角的中單擊,返回至舊版數據傳輸控制臺。
在左側導航欄,單擊數據遷移。
在遷移任務列表頁面頂部,選擇遷移的目標實例所屬地域。
單擊頁面右上角的創建遷移任務。
配置遷移任務的源庫和目標庫連接信息。
類別
配置
說明
無
任務名稱
DTS會自動生成一個任務名稱,建議配置具有業務意義的名稱(無唯一性要求),便于后續識別。
源庫信息
實例類型
根據源庫的部署位置進行選擇,本文以ECS上的自建數據庫為例介紹配置流程。
說明當自建數據庫為其他實例類型時,您還需要執行相應的準備工作,詳情請參見準備工作概覽。
實例地區
選擇部署了Oracle數據庫的ECS實例所屬的地域。
ECS實例ID
選擇自建Oracle數據庫所屬的ECS實例ID。
數據庫類型
選擇Oracle。
端口
填入自建Oracle數據庫的服務端口,默認為1521。
實例類型
非RAC實例:選擇該項后,您還需要填寫SID信息。
RAC實例:選擇該項后,您還需要填寫ServiceName信息。
本案例選擇為非RAC實例。
SID
填寫自建Oracle數據庫的SID信息。
數據庫賬號
填入自建Oracle數據庫的數據庫賬號,權限要求請參見數據庫賬號所需權限。
數據庫密碼
填入該數據庫賬號的密碼。
說明源庫信息填寫完畢后,您可以單擊數據庫密碼后的測試連接來驗證填入的源庫信息是否正確。源庫信息填寫正確則提示測試通過;如果提示測試失敗,單擊測試失敗后的診斷,根據提示調整填寫的源庫信息。
目標庫信息
實例類型
選擇AnalyticDB for PostgreSQL。
實例地區
選擇目標云原生數據倉庫AnalyticDB PostgreSQL實例所屬地域。
實例ID
選擇目標云原生數據倉庫AnalyticDB PostgreSQL實例ID。
數據庫名稱
填入遷入數據的目標數據庫名稱。
數據庫賬號
填入目標云原生數據倉庫AnalyticDB PostgreSQL的數據庫賬號,權限要求請參見數據庫賬號所需權限。
數據庫密碼
填入該數據庫賬號的密碼。
配置完成后,單擊頁面右下角的授權白名單并進入下一步。
如果源或目標數據庫是阿里云數據庫實例(例如RDS MySQL、云數據庫MongoDB版等),DTS會自動將對應地區DTS服務的IP地址添加到阿里云數據庫實例的白名單;如果源或目標數據庫是ECS上的自建數據庫,DTS會自動將對應地區DTS服務的IP地址添到ECS的安全規則中,您還需確保自建數據庫沒有限制ECS的訪問(若數據庫是集群部署在多個ECS實例,您需要手動將DTS服務對應地區的IP地址添到其余每個ECS的安全規則中);如果源或目標數據庫是IDC自建數據庫或其他云數據庫,則需要您手動添加對應地區DTS服務的IP地址,以允許來自DTS服務器的訪問。DTS服務的IP地址,請參見DTS服務器的IP地址段。
警告DTS自動添加或您手動添加DTS服務的公網IP地址段可能會存在安全風險,一旦使用本產品代表您已理解和確認其中可能存在的安全風險,并且需要您做好基本的安全防護,包括但不限于加強賬號密碼強度防范、限制各網段開放的端口號、內部各API使用鑒權方式通信、定期檢查并限制不需要的網段,或者使用通過內網(專線/VPN網關/智能網關)的方式接入。
選擇遷移類型、操作類型和遷移對象。
配置
說明
遷移類型
如果只需要執行全量遷移,同時選中結構遷移和全量數據遷移。
如果需要執行不停機遷移,同時選中結構遷移、全量數據遷移和增量數據遷移。
說明如果沒有選擇增量數據遷移,為保障數據一致性,數據遷移期間請勿在源庫中寫入新的數據。
操作類型
根據業務需求,選擇增量數據遷移階段需要同步的操作類型,默認全部選中。
遷移對象
在遷移對象框中單擊待遷移的對象,然后單擊圖標將其移動至已選擇對象框。
說明遷移對象選擇的粒度為表。
默認情況下,遷移對象在目標庫中的名稱與源庫保持一致。如果您需要改變遷移對象在目標庫中的名稱,需要使用對象名映射功能,詳情請參見庫表列映射。
如果使用了對象名映射功能,可能會導致依賴這個對象的其他對象遷移失敗。
映射名稱更改
如需更改遷移對象在目標實例中的名稱,請使用對象名映射功能,詳情請參見庫表列映射。
重要若使用列映射時為非全表遷移或者源與目標表結構不一致,則目標端比源端缺少的列的數據將會丟失。
源、目標庫無法連接重試時間
默認重試12小時,您也可以自定義重試時間。如果DTS在設置的時間內重新連接上源、目標庫,遷移任務將自動恢復。否則,遷移任務將失敗。
說明由于連接重試期間,DTS將收取任務運行費用,建議您根據業務需要自定義重試時間,或者在源和目標庫實例釋放后盡快釋放DTS實例。
為目標對象名添加引號
選擇是否需要為目標對象名添加引號。如果選擇為是,且存在下述情況,DTS在結構初始化階段和增量數據遷移階段會為目標對象添加單引號或雙引號:
源庫所屬的業務環境對大小寫敏感且大小寫混用。
源表名不是以字母開頭,且包含字母、數字或特殊字符以外的字符。
說明特殊字符僅支持下劃線(_),井號(#)和美元符號($)。
待遷移的Schema、表或列名稱是目標庫的關鍵字、保留字或非法字符。
設置待遷移的表在云原生數據倉庫AnalyticDB PostgreSQL中的主鍵列和分布鍵信息。
上述配置完成后,單擊頁面右下角的預檢查并啟動。
說明在遷移任務正式啟動之前,會先進行預檢查。只有預檢查通過后,才能成功啟動遷移任務。
如果預檢查失敗,單擊具體檢查項后的,查看失敗詳情。
您可以根據提示修復后重新進行預檢查。
如無需修復告警檢測項,您也可以選擇確認屏蔽、忽略告警項并重新進行預檢查,跳過告警檢測項重新進行預檢查。
預檢查通過后,單擊下一步。
在彈出的購買配置確認對話框,選擇鏈路規格并選中數據傳輸(按量付費)服務條款。
單擊購買并啟動,遷移任務正式開始。
結構遷移+全量數據遷移
請勿手動結束遷移任務,否則可能會導致數據不完整。您只需等待遷移任務完成即可,遷移任務會自動結束。
結構遷移+全量數據遷移+增量數據遷移
遷移任務不會自動結束,您需要手動結束遷移任務。
重要請選擇合適的時間手動結束遷移任務,例如業務低峰期或準備將業務切換至目標集群時。
觀察遷移任務的進度變更為增量遷移,并顯示為無延遲狀態時,將源庫停寫幾分鐘,此時增量遷移的狀態可能會顯示延遲的時間。
等待遷移任務的增量遷移再次進入無延遲狀態后,手動結束遷移任務。