本文中含有需要您注意的重要提示信息,忽略該信息可能對您的業務造成影響,請務必仔細閱讀。
本文介紹如何使用數據傳輸服務DTS(Data Transmission Service),將自建SQL Server增量遷移至RDS SQL Server。DTS支持結構遷移、全量數據遷移以及增量數據遷移,同時使用這三種遷移類型可以實現在自建應用不停服的情況下,平滑地完成自建SQL Server數據庫遷移上云。
如果僅需要全量數據遷移,請參見從自建SQL Server全量遷移至RDS SQL Server。
前提條件
自建SQL Server數據庫版本為2008、2008 R2、2012、2014、2016、2017或2019版本。
說明由于SQL Server Cluster或SQL Server AlwaysOn High Availability Group一旦發生主備切換,會導致源庫的主庫和備庫的日志序列號不一致,DTS認為源庫日志不連續,導致任務失敗。因此暫不支持將這兩個版本作為遷移的源庫。
如需跨版本遷移,請提前確認兼容性。
自建SQL Server數據庫中待遷移的表需具備主鍵或者唯一性非空索引。
RDS SQL Server實例的存儲空間須大于自建SQL Server數據庫占用的存儲空間。
注意事項
DTS在執行全量數據遷移時將占用源庫和目標庫一定的讀寫資源,可能會導致數據庫的負載上升,在數據庫性能較差、規格較低或業務量較大的情況下(例如源庫有大量慢SQL、存在無主鍵表或目標庫存在死鎖等),可能會加重數據庫壓力,甚至導致數據庫服務不可用。因此您需要在執行數據遷移前評估源庫和目標庫的性能,同時建議您在業務低峰期執行數據遷移(例如源庫和目標庫的CPU負載在30%以下)。
為保障增量數據遷移的正常運行,請勿對源庫頻繁執行備份,同時建議日志保留3天以上,避免日志截斷后無法獲取日志。
為保證增量數據遷移延遲顯示的準確性,DTS會在自建SQL Server數據庫中新增一張心跳表,表名格式為
待遷移表名_dts_mysql_heartbeat
。DTS會自動地在阿里云RDS SQL Server中創建數據庫,如果待遷移的數據庫名稱不符合阿里云RDS的定義規范,您需要在配置遷移任務之前在阿里云RDS SQL Server中創建數據庫。
說明關于阿里云RDS的定義規范和創建數據庫的操作方法,請參見創建數據庫。
若目標庫中有已啟用的觸發器或外鍵,則會導致遷移任務失敗。
對于遷移失敗的任務,DTS會觸發自動恢復。當您需要將業務切換至目標實例,請務必先終止或釋放該任務,避免該任務被自動恢復后,導致源端數據覆蓋目標實例的數據。
數據遷移限制
不支持assemblies、service broker、全文索引、全文目錄、分布式schema、分布式函數、CLR存儲過程、CLR標量函數、CLR表值函數、內部表、系統、聚合函數的結構遷移。
不支持遷移數據類型為sql_variant的數據。
不支持遷移含有計算列的表。
遷移類型說明
結構遷移
DTS將遷移對象的結構定義遷移到目標庫,目前DTS支持結構遷移的對象為表、視圖、表觸發器、同義詞、SQL 存儲過程、SQL 函數、plan guide、自定義類型、rule、default、sequence。
全量數據遷移
DTS會將自建SQL Server數據庫遷移對象的存量數據,全部遷移到目標庫。
增量數據遷移
DTS在全量數據遷移的基礎上,將自建SQL Server數據庫的增量更新數據同步到目標庫。
增量數據遷移支持同步的SQL操作
INSERT、UPDATE、DELETE
說明不支持同步只更新大字段的UPDATE語句。
CREATE TABLE
說明不支持分區、表定義內部包含函數。
ALTER TABLE,僅包含ADD COLUMN、DROP COLUMN、RENAME COLUMN
DROP TABLE
RENAME TABLE、TRUNCATE TABLE、CREATE INDEX
費用說明
遷移類型 | 鏈路配置費用 | 公網流量費用 |
結構遷移和全量數據遷移 | 不收費。 | 通過公網將數據遷移出阿里云時將收費,詳情請參見計費概述。 |
增量數據遷移 | 收費,詳情請參見計費概述。 |
數據庫賬號的權限要求
數據庫 | 結構遷移 | 全量遷移 | 增量遷移 |
自建SQL Server數據庫 | SELECT權限 | SELECT權限 | sysadmin |
RDS SQL Server實例 | 讀寫權限 | 讀寫權限 | 讀寫權限 |
數據庫賬號創建及授權方法:
自建SQL Server數據庫請參見CREATE USER。
RDS SQL Server實例請參見創建賬號。
增量數據遷移流程
為解決對象間的依賴,提高遷移成功率,DTS對SQL Server結構和數據的遷移流程如下:
執行表、視圖、同義詞、自定義類型、rule、default和plan guide的結構遷移。
執行全量數據遷移。
執行SQL存儲過程、SQL函數、觸發器和外鍵的結構遷移。
執行增量數據遷移。
說明在進行增量數據遷移前,請勿對源庫的待遷移對象執行DDL操作,否則可能導致遷移失敗。
準備工作
在正式配置數據遷移任務之前,需要在自建SQL Server數據庫上進行日志配置并創建聚集索引。
如果有多個數據庫需要遷移,您需要重復執行準備工作中的步驟1到步驟4。
在自建SQL Server數據庫中執行如下命令,將待遷移的數據庫恢復模式修改為完整模式。
use master; GO ALTER DATABASE <database_name> SET RECOVERY FULL WITH ROLLBACK IMMEDIATE; GO
參數說明:
<database_name>:待遷移的數據庫名。
示例:
use master; GO ALTER DATABASE mytestdata SET RECOVERY FULL WITH ROLLBACK IMMEDIATE; GO
執行如下命令,將待遷移的數據庫進行邏輯備份。如您已進行過邏輯備份,可跳過本步驟。
BACKUP DATABASE <database_name> TO DISK='<physical_backup_device_name>'; GO
參數說明:
<database_name>:待遷移的數據庫名。
<physical_backup_device_name>:指定備份文件存儲的路徑和文件名。
示例:
BACKUP DATABASE mytestdata TO DISK='D:\backup\dbdata.bak'; GO
執行如下命令,將待遷移的數據庫日志進行備份。
BACKUP LOG <database_name> to DISK='<physical_backup_device_name>' WITH init; GO
參數說明:
<database_name>:待遷移的數據庫名。
<physical_backup_device_name>:指定備份文件存儲的路徑和文件名。
示例:
BACKUP LOG mytestdata TO DISK='D:\backup\dblog.bak' WITH init; GO
為待遷移的表創建聚集索引,詳情請參見創建聚集索引。
操作步驟
登錄數據傳輸控制臺。
說明若數據傳輸控制臺自動跳轉至數據管理DMS控制臺,您可以在右下角的中單擊,返回至舊版數據傳輸控制臺。
在左側導航欄,單擊數據遷移。
在遷移任務列表頁面頂部,選擇遷移的目標實例所屬地域。
單擊頁面右上角的創建遷移任務。
配置遷移任務的源庫及目標庫信息。
類別
配置
說明
無
任務名稱
DTS會自動生成一個任務名稱,建議配置具有業務意義的名稱(無唯一性要求),便于后續識別。
源庫信息
實例類型
根據源庫的部署位置進行選擇,本文以有公網IP的自建數據庫為例介紹配置流程。
說明當自建數據庫為其他實例類型時,您還需要執行相應的準備工作,詳情請參見準備工作概覽。
實例地區
當實例類型選擇為有公網IP的自建數據庫時,實例地區無需設置。
說明如果您的自建SQL Server數據庫進行了白名單安全設置,您需要在實例地區配置項后,單擊獲取DTS IP段來獲取到DTS服務器的IP地址,并將獲取到的IP地址加入自建SQL Server數據庫的白名單安全設置中。
數據庫類型
選擇SQL Server。
主機名或IP地址
填入自建SQL Server數據庫的訪問地址,本案例中填入公網IP地址。
端口
填入自建SQL Server數據庫的服務端口,默認為1433。
說明本案例中,該服務端口須開放至公網。
數據庫賬號
填入自建SQL Server的數據庫賬號,權限要求請參見數據庫賬號的權限要求。
數據庫密碼
填入該數據庫賬號的密碼。
說明源庫信息填寫完畢后,您可以單擊數據庫密碼后的測試連接來驗證填入的源庫信息是否正確。源庫信息填寫正確則提示測試通過;如果提示測試失敗,單擊測試失敗后的診斷,根據提示調整填寫的源庫信息。
目標庫信息
實例類型
選擇RDS實例。
實例地區
選擇目標RDS實例所屬地域。
RDS實例ID
選擇目標RDS實例ID。
數據庫賬號
填入目標RDS實例的數據庫賬號,權限要求請參見數據庫賬號的權限要求。
數據庫密碼
填入該數據庫賬號的密碼。
說明目標庫信息填寫完畢后,您可以單擊數據庫密碼后的測試連接來驗證填入的目標庫信息是否正確。目標庫信息填寫正確則提示測試通過;如果提示測試失敗,單擊測試失敗后的診斷,根據提示調整填寫的目標庫信息。
配置完成后,單擊頁面右下角的授權白名單并進入下一步。
如果源或目標數據庫是阿里云數據庫實例(例如RDS MySQL、云數據庫MongoDB版等),DTS會自動將對應地區DTS服務的IP地址添加到阿里云數據庫實例的白名單;如果源或目標數據庫是ECS上的自建數據庫,DTS會自動將對應地區DTS服務的IP地址添到ECS的安全規則中,您還需確保自建數據庫沒有限制ECS的訪問(若數據庫是集群部署在多個ECS實例,您需要手動將DTS服務對應地區的IP地址添到其余每個ECS的安全規則中);如果源或目標數據庫是IDC自建數據庫或其他云數據庫,則需要您手動添加對應地區DTS服務的IP地址,以允許來自DTS服務器的訪問。DTS服務的IP地址,請參見DTS服務器的IP地址段。
警告DTS自動添加或您手動添加DTS服務的公網IP地址段可能會存在安全風險,一旦使用本產品代表您已理解和確認其中可能存在的安全風險,并且需要您做好基本的安全防護,包括但不限于加強賬號密碼強度防范、限制各網段開放的端口號、內部各API使用鑒權方式通信、定期檢查并限制不需要的網段,或者使用通過內網(專線/VPN網關/智能網關)的方式接入。
選擇遷移對象及遷移類型。
配置
說明
遷移類型
如果只需要進行全量數據遷移,則同時勾選結構遷移和全量數據遷移。
如果需要進行不停機遷移,則同時勾選結構遷移、全量數據遷移和增量數據遷移。本案例同時勾選這三種遷移類型。
說明如果未勾選增量數據遷移,為保障數據一致性,數據遷移期間請勿在自建SQL Server數據庫中寫入新的數據。
遷移對象
在遷移對象框中單擊待遷移的對象,然后單擊圖標將其移動至已選擇對象框。
說明遷移對象選擇的粒度為庫、表、列。
默認情況下,遷移對象在目標庫中的名稱與源庫保持一致。如果您需要改變遷移對象在目標庫中的名稱,需要使用對象名映射功能,詳情請參見庫表列映射。
如果使用了對象名映射功能,可能會導致依賴這個對象的其他對象遷移失敗。
映射名稱更改
如需更改遷移對象在目標實例中的名稱,請使用對象名映射功能,詳情請參見庫表列映射。
源、目標庫無法連接重試時間
默認重試12小時,您也可以自定義重試時間。如果DTS在設置的時間內重新連接上源、目標庫,遷移任務將自動恢復。否則,遷移任務將失敗。
說明由于連接重試期間,DTS將收取任務運行費用,建議您根據業務需要自定義重試時間,或者在源和目標庫實例釋放后盡快釋放DTS實例。
上述配置完成后,單擊頁面右下角的預檢查并啟動。
說明在遷移任務正式啟動之前,會先進行預檢查。只有預檢查通過后,才能成功啟動遷移任務。
如果預檢查失敗,單擊具體檢查項后的,查看失敗詳情。
您可以根據提示修復后重新進行預檢查。
如無需修復告警檢測項,您也可以選擇確認屏蔽、忽略告警項并重新進行預檢查,跳過告警檢測項重新進行預檢查。
預檢查通過后,單擊下一步。
在購買配置確認頁面,選擇鏈路規格并選中數據傳輸(按量付費)服務條款。
單擊購買并啟動,遷移任務正式開始。
全量數據遷移
請勿手動結束遷移任務,否則可能導致數據不完整。您只需等待遷移任務完成即可,遷移任務會自動結束。
增量數據遷移
遷移任務不會自動結束,您需要手動結束遷移任務。
說明請選擇合適的時間手動結束遷移任務,例如業務低峰期或準備將業務切換至目標實例時。
觀察遷移任務的進度變更為增量遷移,并顯示為無延遲時,將源庫停寫幾分鐘,此時增量遷移可能會顯示延遲的時間。
等待遷移任務的增量遷移再次進入無延遲后,手動結束遷移任務。
將業務切換至RDS實例。
后續操作
用于數據遷移的數據庫賬號擁有讀寫權限,為保障數據庫安全性,請在數據遷移完成后,刪除自建SQL Server數據庫和RDS SQL Server實例中的數據庫賬號。