本文中含有需要您注意的重要提示信息,忽略該信息可能對您的業務造成影響,請務必仔細閱讀。
本文介紹如何使用數據傳輸服務DTS(Data Transmission Service),跨阿里云賬號遷移MongoDB實例。DTS支持全量數據遷移和增量數據遷移,同時使用這兩種遷移類型可以實現在不停服的情況下,平滑地完成數據庫的遷移。
前提條件
源實例類型為單節點實例或副本集實例。如果源實例為分片集群實例,請使用MongoDB自帶的工具進行遷移,詳細信息,請參見使用MongoDB工具將自建數據庫遷移至分片集群實例。
說明使用DTS遷移單節點實例時,不支持增量數據遷移,詳情信息,請參見遷移類型說明。
已在目標地域中創建了目標實例,詳情信息,請參見創建單節點實例、創建副本集實例或創建分片集群實例。
說明建議目標實例的存儲空間比源實例的已使用存儲空間大10%。
注意事項
- DTS在執行全量數據遷移時將占用源庫和目標庫一定的資源,可能會導致數據庫服務器負載上升。如果數據庫業務量較大或服務器規格較低,可能會加重數據庫壓力,甚至導致數據庫服務不可用。建議您在執行數據遷移前謹慎評估,在業務低峰期執行數據遷移。
- 單節點實例不支持使用DTS執行增量數據遷移,為保障數據一致性,全量數據遷移期間請勿在源實例中寫入新的數據。
- MongoDB實例支持的版本與存儲引擎請參見版本及存儲引擎,如需跨版本或跨引擎遷移,請提前確認兼容性。
- 如果您的數據庫小版本過期或者不在維護列表內,當執行實例版本升級、數據遷移、變更實例配置、按備份點將備份數據恢復至新建實例、按時間點將備份數據恢復至新建實例或恢復云數據庫MongoDB單個或多個數據庫等操作時,為保證提供更出色的性能和穩定性,系統會默認將您的數據庫小版本升級至最新版。
- 由于DTS寫入數據的邏輯為并發寫入,所以會導致目標端占用的存儲空間比源端大5%~10%。
- 請確保目標端MongoDB沒有與源端相同的主鍵(默認為_id),否則會導致數據丟失。若目標端有與源端相同的主鍵,請在不影響業務的前提條件下清空目標端的相關數據(刪掉目標端中與源端相同_id的文檔)。
費用說明
遷移類型 | 鏈路配置費用 | 公網流量費用 |
全量數據遷移 | 不收費。 | 僅當通過公網將數據遷移出阿里云時收費,詳情請參見DTS產品定價。 |
增量數據遷移 | 收費,詳情請參見DTS產品定價。 |
遷移類型說明
遷移類型 | 說明 |
全量數據遷移 | 將源MongoDB數據庫遷移對象的存量數據全部遷移到目標MongoDB數據庫中。 說明 支持遷移database、collection和index。 |
增量數據遷移 | 在全量遷移的基礎上,將源MongoDB數據庫的增量更新數據同步到目標MongoDB數據庫中。 說明
|
數據庫賬號的權限要求
遷移數據源 | 全量數據遷移 | 增量數據遷移 |
源MongoDB實例 | 待遷移庫的read權限 | 待遷移庫、admin庫和local庫的read權限 |
目標MongoDB實例 | 目標庫的readWrite權限 | 目標庫的readWrite權限 |
數據庫賬號創建及授權方法,請參見使用DMS管理MongoDB數據庫用戶。
準備工作
使用源實例所屬的阿里云賬號登錄MongoDB管理控制臺,詳細信息,請參見MongoDB管理控制臺。
為源實例申請公網連接地址,詳細信息,請參見申請公網連接地址。
將DTS服務器的IP地址段加入至源實例的白名單中,詳細信息,請參見修改白名單。
說明根據目標實例的地域信息,選擇需要添加的IP地址段,詳細信息,請參見遷移、同步或訂閱本地數據庫時需添加的IP白名單。
例如,源實例的地域為杭州,目標實例的地域為深圳,那么需要將深圳地區的DTS IP地址段加入至源實例的白名單中。
操作步驟
登錄MongoDB管理控制臺。
根據實例類型,在左側導航欄,單擊副本集實例列表或分片集群實例列表。
在頁面左上角,選擇實例所在的資源組和地域。
單擊目標實例ID或目標實例所在行操作列的管理。
在目標實例頁面右上方,單擊遷移MongoDB數據庫。
在創建遷移任務頁面,根據頁面信息完成遷移任務配置。
設置以下參數,配置源庫及目標庫信息。
類別
配置
說明
無
任務名稱
DTS會自動生成一個任務名稱,建議配置具有業務意義的名稱(無唯一性要求),便于后續識別。
源庫信息
實例類型
選擇有公網IP的自建數據庫。
實例地區
選擇源實例所在地域。
數據庫類型
選擇MongoDB。
主機名或IP地址
填入源實例的公網連接地址中的域名信息。例如:dds-bp1b47357f218e74****-pub.mongodb.rds.aliyuncs.com。
端口
填入源實例的服務端口3717。
數據庫名稱
填入鑒權數據庫名,即數據庫賬號所屬的數據庫。
說明如果使用的數據庫賬號為root,那么對應的數據庫名稱即為admin。
數據庫賬號
填入源MongoDB實例的數據庫賬號,權限要求請參見數據庫賬號的權限要求。
數據庫密碼
填入該數據庫賬號的密碼。
說明源庫信息填寫完畢后,您可以單擊數據庫密碼后的測試連接來驗證填入的源庫信息是否正確。源庫信息填寫正確則提示測試通過,如提示測試失敗,單擊測試失敗后的診斷,根據提示調整填寫的源庫信息。
連接方式
數據傳輸服務DTS連接源實例的方式。根據需求選擇非加密連接或SSL安全連接。如果設置為SSL安全連接,您需要提前開啟源實例的SSL加密功能。
說明SSL安全連接當前僅支持MongoDB Atlas版本。
選擇SSL安全連接會顯著增加CPU消耗。
目標庫信息
實例類型
選擇MongoDB實例。
實例地區
選擇目標MongoDB實例所屬地域。
MongoDB實例ID
選擇目標MongoDB實例ID。
數據庫名稱
填入鑒權數據庫名,即數據庫賬號所屬的數據庫。
說明如果使用的數據庫賬號為root,那么對應的數據庫名稱即為admin。
數據庫賬號
填入目標MongoDB實例的數據庫賬號,權限要求請參見數據庫賬號的權限要求。
數據庫密碼
填入該數據庫賬號的密碼。
說明目標庫信息填寫完畢后,您可以單擊數據庫密碼后的測試連接來驗證填入的目標庫信息是否正確。目標庫信息填寫正確則提示測試通過,如提示測試失敗,單擊測試失敗后的診斷,根據提示調整填寫的目標庫信息。
配置完成后,單擊頁面下方的授權白名單并進入下一步。
如果源或目標數據庫是阿里云數據庫實例(例如RDS MySQL、云數據庫MongoDB版等),DTS會自動將對應地區DTS服務的IP地址添加到阿里云數據庫實例的白名單;如果源或目標數據庫是ECS上的自建數據庫,DTS會自動將對應地區DTS服務的IP地址添到ECS的安全規則中,您還需確保自建數據庫沒有限制ECS的訪問(若數據庫是集群部署在多個ECS實例,您需要手動將DTS服務對應地區的IP地址添到其余每個ECS的安全規則中);如果源或目標數據庫是IDC自建數據庫或其他云數據庫,則需要您手動添加對應地區DTS服務的IP地址,以允許來自DTS服務器的訪問。DTS服務的IP地址,請參見DTS服務器的IP地址段。
警告DTS自動添加或您手動添加DTS服務的公網IP地址段可能會存在安全風險,一旦使用本產品代表您已理解和確認其中可能存在的安全風險,并且需要您做好基本的安全防護,包括但不限于加強賬號密碼強度防范、限制各網段開放的端口號、內部各API使用鑒權方式通信、定期檢查并限制不需要的網段,或者使用通過內網(專線/VPN網關/智能網關)的方式接入。
設置以下參數,選擇遷移對象及遷移類型。
配置
說明
遷移類型
建議同時勾選全量遷移和增量遷移,以保證遷移數據的一致性。
只勾選全量遷移:全量遷移過程中,源實例有數據更新時,更新數據不一定能夠被遷移至目標實例。
只勾選增量遷移;
遷移任務啟動后,DTS只遷移源實例產生的增量數據。
增量遷移不支持trigger的同步,具體請參見源庫存在觸發器時如何配置同步作業。
說明使用DTS遷移單節點實例時,不支持增量數據遷移。
如果未勾選增量數據遷移,為保障數據一致性,全量數據遷移期間請勿在源實例中寫入新的數據。
遷移對象
選擇遷移對象,方法如下:
從遷移對象列表中,選擇待遷移的對象。
單擊將其移動至已選擇對象列表中。
說明不支持遷移admin和local數據庫。
遷移對象選擇的粒度為database、collection或function。
默認情況下,遷移完成后,遷移對象的名稱保持不變。如果您需要改變遷移對象在目標數據庫中的名稱,可使用對象名映射功能,詳情請參見庫表列映射。
映射名稱更改
如需改變遷移對象在目標實例中的名稱,請使用對象名映射功能,詳情請參見庫表列映射。
源、目標庫無法連接重試時間
默認重試12小時,您也可以自定義重試時間。如果DTS在設置的時間內重新連接上源、目標庫,遷移任務將自動恢復。否則,遷移任務將失敗。
說明由于連接重試期間,DTS將收取任務運行費用,建議您根據業務需要自定義重試時間,或者在源和目標庫實例釋放后盡快釋放DTS實例。
- 上述配置完成后,單擊頁面右下角的預檢查并啟動。說明
在遷移任務正式啟動之前,會先進行預檢查。只有預檢查通過后,才能成功啟動遷移任務。
如果預檢查失敗,請單擊失敗檢查項后的查看詳情,并根據提示修復后重新進行預檢查。
如果預檢查產生警告:
對于不可以忽略的檢查項,請單擊失敗檢查項后的查看詳情,并根據提示修復后重新進行預檢查。
對于可以忽略無需修復的檢查項,您可以依次單擊點擊確認告警詳情、確認屏蔽、確定、重新進行預檢查,跳過告警檢查項重新進行預檢查。如果選擇屏蔽告警檢查項,可能會導致數據不一致等問題,給業務帶來風險。
- 預檢查通過后,單擊下一步。
- 在購買配置確認頁面,選擇鏈路規格,并勾選數據傳輸(按量付費)服務條款。
- 單擊立即購買并啟動,遷移任務正式開始。
- 查看遷移任務進展。
- 全量數據遷移
請勿手動結束遷移任務,否則可能會導致數據不完整。您只需等待遷移任務完成即可,遷移任務會自動結束。
- 增量數據遷移
遷移任務不會自動結束,需要手動結束遷移任務。
- 觀察遷移任務的進度變更為增量遷移,并顯示為無延遲狀態時,將源庫停寫幾分鐘,此時增量遷移的狀態可能會顯示延遲的時間。
- 等待遷移任務的增量遷移再次進入無延遲狀態,手動結束遷移任務。
- 全量數據遷移
- 將業務切換至目標MongoDB實例。
后續操作
根據業務需求確認是否需要釋放源實例。
更多信息
當目標實例為分片集群實例時,您可以根據業務需要設置數據分片,詳情信息,請參見設置數據分片以充分利用Shard性能。