前提條件

• 已創建目標云數據庫MongoDB版（副本集架構或分片集群架構）實例，創建方式，請參見創建副本集實例或創建分片集群實例。

  重要

  • 建議目標云數據庫MongoDB版實例的存儲空間比源自建MongoDB實例占用的存儲空間大10%。

  • 支持的版本，請參見遷移方案概覽。

• 已為源自建MongoDB實例的所有Shard節點創建賬號，并確保各Shard的賬號和密碼保持一致。

• 若目標MongoDB為分片集群架構實例：

  • 請確保目標分片集群實例中的Shard節點具備充足的存儲空間。

    說明

    例如自建數據庫中有三個Shard節點，其中第二個Shard節點占用的存儲空間最多（500GB），那么分片集群實例中的每個Shard節點的存儲空間均需要大于500 GB。

  • 請根據業務需求，在目標云數據庫MongoDB版（分片集群架構）實例中創建需要分片的數據庫和集合、配置數據分片、開啟Balancer并進行預分片。更多信息，請參見設置數據分片以充分利用Shard性能和如何處理分片集群架構的MongoDB數據分布不均衡。

    說明

    配置數據分片可避免數據被遷移至同一Shard，導致無法發揮集群性能；開啟Balancer并進行預分片可以避免數據傾斜問題。

注意事項

費用說明

任務步驟說明

數據庫賬號的權限要求

數據庫賬號創建及授權方法：

• 自建MongoDB數據庫請參見MongoDB Create User說明。

• 阿里云MongoDB實例請參見使用DMS管理MongoDB數據庫用戶。

準備工作

1. 必需：為避免塊遷移對數據一致性的影響，遷移期間需要關閉自建MongoDB數據庫的均衡器（Balancer），詳情請參見管理MongoDB均衡器Balancer 。

   警告

   如果未關閉均衡器，遷移期間發生了塊遷移將影響DTS讀取到的數據的一致性。

2. 清除自建MongoDB數據庫中，因塊遷移失敗而產生的孤立文檔。

   說明

   如果未清除孤立文檔，將影響遷移性能，而且可能在遷移過程會遇到_id沖突的文檔，導致遷移錯誤的數據。

   1. 下載cleanupOrphaned.js腳本文件。

      wget "https://docs-aliyun.cn-hangzhou.oss.aliyun-inc.com/assets/attach/120562/cn_zh/1564451237979/cleanupOrphaned.js"

   2. 修改cleanupOrphaned.js腳本文件，將test替換為待清理孤立文檔的數據庫名。

      說明

      如果您有多個數據庫，您需要重復執行本步驟和步驟c。

      

   3. 執行如下命令，清理Shard節點中指定數據庫下所有集合的孤立文檔。

      說明

      您需要重復執行本步驟，為每個Shard節點清理孤立文檔。

      mongo --host <Shardhost> --port <Primaryport>  --authenticationDatabase <database> -u <username> -p <password> cleanupOrphaned.js

      說明

      • <Shardhost>：Shard節點的IP地址。

      • <Primaryport>：Shard節點中的Primary節點的服務端口。

      • <database>：鑒權數據庫名，即數據庫賬號所屬的數據庫。

      • <username>：登錄數據庫的賬號。

      • <password>：登錄數據庫的密碼。

      示例：

      本案例的自建MongoDB數據庫有三個Shard節點，所以需要分別為這三個節點清除孤立文檔。

      mongo --host 172.16.1.10 --port 27018  --authenticationDatabase admin -u dtstest -p 'Test123456' cleanupOrphaned.js

      mongo --host 172.16.1.11 --port 27021 --authenticationDatabase admin -u dtstest -p 'Test123456' cleanupOrphaned.js

      mongo --host 172.16.1.12 --port 27024  --authenticationDatabase admin -u dtstest -p 'Test123456' cleanupOrphaned.js

3. 根據業務需要，在目標MongoDB實例中創建需要分片的數據庫和集合，并配置數據分片，詳情請參見設置數據分片以充分利用Shard性能。

   說明

   在配置數據遷移前配置數據分片，可避免數據被遷移至同一Shard中，導致單個Shard使用的存儲空間超出預期規劃。

操作步驟

1. 進入目標地域的遷移任務列表頁面（二選一）。

   通過DTS控制臺進入

   1. 登錄數據傳輸服務DTS控制臺。

   2. 在左側導航欄，單擊數據遷移。

   3. 在頁面左上角，選擇遷移實例所屬地域。

   通過DMS控制臺進入

   說明

   實際操作可能會因DMS的模式和布局不同，而有所差異。更多信息。請參見極簡模式控制臺和自定義DMS界面布局與樣式。

   1. 登錄DMS數據管理服務。

   2. 在頂部菜單欄中，選擇集成與開發 > 數據傳輸（DTS） > 數據遷移。

   3. 在遷移任務右側，選擇遷移實例所屬地域。

2. 單擊創建任務，進入任務配置頁面。

3. 可選：在頁面右上角，單擊試用新版配置頁。

   說明

   • 若您已進入新版配置頁（頁面右上角的按鈕為返回舊版配置頁），則無需執行此操作。

   • 新版配置頁和舊版配置頁部分參數有差異，建議使用新版配置頁。

4. 配置源庫及目標庫信息。

   警告

   選擇源和目標實例后，建議您仔細閱讀頁面上方顯示的使用限制，否則可能會導致任務失敗或數據不一致。

   類別	配置	說明
   無	任務名稱	DTS會自動生成一個任務名稱，建議配置具有業務意義的名稱（無唯一性要求），便于后續識別。
   源庫信息	選擇已有連接信息	您可以按實際需求，選擇是否使用已有數據庫實例。 如使用已有實例，下方數據庫信息將自動填入，您無需重復輸入。 如不使用已有實例，您需要配置下方的數據庫信息。 說明 您可以在數據連接管理頁面或新版配置頁面，將數據庫錄入DTS。更多信息，請參見數據連接管理。 DMS控制臺的配置項為選擇DMS數據庫實例，您可以單擊新增DMS數據庫實例或在控制臺首頁將數據庫錄入DMS。更多信息，請參見云數據庫錄入和他云/自建數據庫錄入。
   	數據庫類型	選擇MongoDB。
   	接入方式	請根據源庫的部署位置進行選擇，本示例以公網IP為例介紹配置流程。 說明 當選擇其他方式接入自建數據庫時，您還需要執行相應的準備工作，詳情請參見準備工作概覽。
   	實例地區	選擇自建MongoDB數據庫所屬地域。 說明 若選項中沒有自建MongoDB數據庫所屬的地域，您可以選擇一個距離該數據庫最近的地域。
   	架構類型	選擇分片集群架構。 說明 僅當以專線/VPN網關/智能網關、公網IP或云企業網CEN的方式接入自建MongoDB時，才會出現分片集群架構選項。
   	遷移方式	請根據實際情況，選擇增量數據遷移的方式。 Oplog（推薦）： 若源庫已開啟Oplog日志，則支持此選項。 說明 本地自建MongoDB和云數據庫MongoDB版默認已開啟Oplog日志，且使用此方式遷移增量數據時增量遷移任務的延遲較小（拉取日志的速度較快），因此推薦選擇Oplog。 ChangeStream：若源庫已開啟變更流（Change Streams），則支持此選項。 說明 源庫為Amazon DocumentDB（非彈性集群）時，僅支持選擇ChangeStream。 源庫架構類型選擇為分片集群架構，無需填寫Shard賬號和Shard密碼。
   	連接地址類型	請根據實際情況選擇單節點或多節點。 說明 僅當以專線/VPN網關/智能網關、公網IP或云企業網CEN的方式接入自建MongoDB時，才會出現此配置項。
   	域名或IP地址	填入自建MongoDB數據庫中，單個Mongos節點的域名或IP地址，本案例填入公網IP地址。 說明 僅當連接地址類型為單節點時，才會出現此配置項。 域名或IP地址和端口填入任一組Mongos節點的IP地址（或域名）和端口。
   	端口	填入自建MongoDB數據庫的服務端口。 說明 僅當連接地址類型為單節點時，才會出現此配置項。 各Mongos節點的服務端口須開放至公網。
   	連接地址	填入自建MongoDB數據庫的連接地址。 說明 僅當連接地址類型為多節點時，才會出現此配置項。 格式為<IP>:<Port>。其中<IP>為域名或者IP地址，建議使用公網可解析的域名。 多個連接地址可以使用回車鍵換行進行分隔。
   	鑒權數據庫名稱	填入自建MongoDB中數據庫賬號所屬的數據庫名稱，若未修改過則默認為admin。
   	數據庫賬號	填入自建MongoDB對應Mongos節點的賬號，權限要求請參見數據庫賬號的權限要求。 說明 若自建MongoDB的接入方式為ECS自建數據庫或數據庫網關DG，則填入Shard節點的賬號。
   	數據庫密碼	填入該數據庫賬號對應的密碼。
   	多Shard節點接入信息	配置自建MongoDB數據庫的Shard節點接入信息。 說明 當自建MongoDB數據庫為源庫、架構類型選擇為分片集群架構，且連接地址類型選擇為多節點時，才會出現此配置項。 單擊多Shard節點接入信息右側的添加按鈕。 在Shard連接地址文本框中，填入自建MongoDB數據庫某個Shard節點的連接地址。 說明 格式為<IP>:<Port>。其中<IP>為域名或者IP地址，建議使用公網可解析的域名。 多個連接地址可以使用回車鍵換行進行分隔。 重復上述操作，配置每個Shard節點接入信息。
   	Shard接入信息(IP:Port)	填入自建MongoDB數據庫Shard節點的IP地址和端口信息，格式為<IP>:<Port>。 說明 僅當連接地址類型為單節點時，才會出現此配置項。 多個Shard節點信息可以使用逗號（,）進行分隔。
   	Shard賬號	填入自建MongoDB數據庫的Shard賬號。
   	Shard密碼	填入自建MongoDB數據庫Shard賬號的密碼。
   	連接方式	DTS支持非加密連接、SSL安全連接和Mongo Atlas SSL三種連接方式。連接方式的選項與接入方式和架構類型有關，請以控制臺為準。 說明 架構類型為分片集群架構，且遷移方式為Oplog的MongoDB數據庫，不支持SSL安全連接。 若源庫為自建（接入方式不為云實例）副本集架構的MongoDB數據庫，并且選擇了SSL安全連接，DTS還支持上傳CA證書對連接進行校驗。
   目標庫信息	選擇已有連接信息	您可以按實際需求，選擇是否使用已有數據庫實例。 如使用已有實例，下方數據庫信息將自動填入，您無需重復輸入。 如不使用已有實例，您需要配置下方的數據庫信息。 說明 您可以在數據連接管理頁面或新版配置頁面，將數據庫錄入DTS。更多信息，請參見數據連接管理。 DMS控制臺的配置項為選擇DMS數據庫實例，您可以單擊新增DMS數據庫實例或在控制臺首頁將數據庫錄入DMS。更多信息，請參見云數據庫錄入和他云/自建數據庫錄入。
   	數據庫類型	選擇MongoDB。
   	接入方式	選擇云實例。
   	實例地區	選擇目標云數據庫MongoDB版實例所屬地域。
   	是否跨阿里云賬號	本示例使用當前阿里云賬號下的數據庫實例，需選擇不跨賬號。
   	架構類型	選擇目標云數據庫MongoDB版所屬的架構類型。
   	實例ID	選擇目標云數據庫MongoDB版實例的ID。
   	鑒權數據庫名稱	填入目標云數據庫MongoDB版實例數據庫賬號所屬的數據庫名稱，若未修改過則默認為admin。
   	數據庫名稱	填入目標云數據庫MongoDB版實例中遷移對象所屬數據庫的名稱。
   	數據庫賬號	填入目標云數據庫MongoDB版實例的數據庫賬號，權限要求請參見數據庫賬號的權限要求。
   	數據庫密碼	填入該數據庫賬號對應的密碼。
   	連接方式	DTS支持非加密連接、SSL安全連接和Mongo Atlas SSL三種連接方式。連接方式的選項與接入方式和架構類型有關，請以控制臺為準。 說明 架構類型為分片集群架構的MongoDB數據庫，不支持SSL安全連接。 若目標庫為自建（接入方式不為云實例）副本集架構的MongoDB數據庫，并且選擇了SSL安全連接，DTS還支持上傳CA證書對連接進行校驗。

5. 配置完成后，在頁面下方單擊測試連接以進行下一步。

   說明

   • 請確保DTS服務的IP地址段能夠被自動或手動添加至源庫和目標庫的安全設置中，以允許DTS服務器的訪問。更多信息，請參見添加DTS服務器的IP地址段。

   • 若源庫或目標庫為自建數據庫（接入方式不是云實例），則還需要在彈出的DTS服務器訪問授權對話框單擊測試連接。

6. 配置任務對象。

   1. 在對象配置頁面，配置待遷移的對象。

      配置	說明
      遷移類型	如果只需要進行全量遷移，請同時選中庫表結構遷移和全量遷移。 如果需要進行不停機遷移，請同時選中庫表結構遷移、全量遷移和增量遷移。 說明 如果未選擇增量遷移，為保障數據一致性，數據遷移期間請勿在源實例中寫入新的數據。
      目標已存在表的處理模式	預檢查并報錯攔截：檢查目標數據庫中是否有同名的表。如果目標數據庫中沒有同名的表，則通過該檢查項目；如果目標數據庫中有同名的表，則在預檢查階段提示錯誤，數據遷移任務不會被啟動。 說明 如果目標庫中同名的表不方便刪除或重命名，您可以更改該表在目標庫中的名稱，請參見庫表列名映射。 忽略報錯并繼續執行：跳過目標數據庫中是否有同名表的檢查項。 警告 選擇為忽略報錯并繼續執行，可能導致數據不一致，給業務帶來風險，例如： 表結構一致的情況下，在目標庫遇到與源庫主鍵的值相同的記錄： 全量期間，DTS會保留目標集群中的該條記錄，即源庫中的該條記錄不會遷移至目標數據庫中。 增量期間，DTS不會保留目標集群中的該條記錄，即源庫中的該條記錄會覆蓋至目標數據庫中。 表結構不一致的情況下，可能導致只能遷移部分列的數據或遷移失敗，請謹慎操作。
      目標庫對象名稱大小寫策略	您可以配置目標實例中遷移對象的庫名、集合名的英文大小寫策略。默認情況下選擇DTS默認策略，您也可以選擇與源庫、目標庫默認策略保持一致。更多信息，請參見目標庫對象名稱大小寫策略
      源庫對象	在源庫對象框中單擊待遷移的對象，然后單擊將其移動到已選擇對象框。 說明 遷移對象選擇的粒度為Collection或Database。
      已選擇對象	如需更改遷移對象在目標實例中的名稱，請右擊已選擇對象中的遷移對象進行修改。設置方式，請參見庫表列名映射。 如需移除已選擇的遷移對象，請在已選擇對象框中單擊待遷移的對象，然后單擊將其移動到源庫對象框。 說明 如需按庫或集合級別選擇增量遷移的操作，請在已選擇對象中右擊待遷移的對象，并在彈出的對話框中進行選擇。 如需設置條件過濾數據（全量遷移階段支持條件過濾數據，增量遷移階段不支持），請在已選擇對象中右擊待遷移的表，并在彈出的對話框中進行設置。設置方法，請參見設置過濾條件。 如果使用了對象名映射功能（指定用于接收數據的數據庫或集合），可能會導致依賴這個對象的其他對象遷移失敗。

   2. 單擊下一步高級配置，進行高級參數配置。

      配置	說明
      選擇調度該任務的專屬集群	DTS默認將任務調度到共享集群上，您無需選擇。您可以購買指定規格的專屬集群來運行DTS遷移任務，詳情請參見什么是DTS專屬集群。
      源庫、目標庫無法連接后的重試時間	在遷移任務啟動后，若源庫或目標庫連接失敗則DTS會報錯，并會立即進行持續的重試連接，默認重試720分鐘，您也可以在取值范圍（10~1440分鐘）內自定義重試時間，建議設置30分鐘以上。如果DTS在設置的時間內重新連接上源、目標庫，遷移任務將自動恢復。否則，遷移任務將失敗。 說明 針對同源或者同目標的多個DTS實例，網絡重試時間以后創建任務的設置為準。 由于連接重試期間，DTS將收取任務運行費用，建議您根據業務需要自定義重試時間，或者在源和目標庫實例釋放后盡快釋放DTS實例。
      源庫、目標庫出現其他問題后的重試時間	在遷移任務啟動后，若源庫或目標庫出現非連接性的其他問題（如DDL或DML執行異常），則DTS會報錯并會立即進行持續的重試操作，默認持續重試時間為10分鐘，您也可以在取值范圍（1~1440分鐘）內自定義重試時間，建議設置10分鐘以上。如果DTS在設置的重試時間內相關操作執行成功，遷移任務將自動恢復。否則，遷移任務將會失敗。 重要 源庫、目標庫出現其他問題后的重試時間的值需要小于源庫、目標庫無法連接后的重試時間的值。
      是否限制全量遷移速率	在全量遷移階段，DTS將占用源庫和目標庫一定的讀寫資源，可能會導致數據庫的負載上升。您可以根據實際情況，選擇是否對全量遷移任務進行限速設置（設置每秒查詢源庫的速率QPS、每秒全量遷移的行數RPS和每秒全量遷移的數據量(MB)BPS），以緩解目標庫的壓力。 說明 僅當遷移類型選擇了全量遷移時才可以配置。
      同一張表內主鍵_id的數據類型是否唯一	待遷移的數據中，同一個集合內主鍵_id的數據類型是否唯一。 說明 僅當遷移類型選擇了全量遷移時才可以配置。 是：唯一。在全量遷移階段，DTS將不會掃描源庫待遷移數據中主鍵的數據類型。 否：不唯一。在全量遷移階段，DTS將掃描源庫待遷移數據中主鍵的數據類型。
      是否限制增量遷移速率	您也可以根據實際情況，選擇是否對增量遷移任務進行限速設置（設置每秒增量遷移的行數RPS和每秒增量遷移的數據量(MB)BPS），以緩解目標庫的壓力。 說明 僅當遷移類型選擇了增量遷移時才可以配置。
      環境標簽	您可以根據實際情況，選擇用于標識實例的環境標簽。本示例無需選擇。
      配置ETL功能	選擇是否配置ETL功能。關于ETL的更多信息，請參見什么是ETL。 是：配置ETL功能，并在文本框中填寫數據處理語句，詳情請參見在DTS遷移或同步任務中配置ETL。 否：不配置ETL功能。
      監控告警	是否設置告警，當遷移失敗或延遲超過閾值后，將通知告警聯系人。 不設置：不設置告警。 設置：設置告警，您還需要設置告警閾值和告警聯系人。更多信息，請參見在配置任務過程中配置監控告警。

   3. 單擊下一步數據校驗，進行數據校驗任務配置。

      若您需要使用數據校驗功能，配置方法請參見配置數據校驗。

7. 保存任務并進行預檢查。

   • 若您需要查看調用API接口配置該實例時的參數信息，請將鼠標光標移動至下一步保存任務并預檢查按鈕上，然后單擊氣泡中的預覽OpenAPI參數。

   • 若您無需查看或已完成查看API參數，請單擊頁面下方的下一步保存任務并預檢查。

   說明

   • 在遷移任務正式啟動之前，會先進行預檢查。只有預檢查通過后，才能成功啟動遷移任務。

   • 如果預檢查失敗，請單擊失敗檢查項后的查看詳情，并根據提示修復后重新進行預檢查。

   • 如果預檢查產生警告：

     • 對于不可以忽略的檢查項，請單擊失敗檢查項后的查看詳情，并根據提示修復后重新進行預檢查。

     • 對于可以忽略無需修復的檢查項，您可以依次單擊點擊確認告警詳情、確認屏蔽、確定、重新進行預檢查，跳過告警檢查項重新進行預檢查。如果選擇屏蔽告警檢查項，可能會導致數據不一致等問題，給業務帶來風險。

8. 購買實例。

   1. 預檢查通過率顯示為100%時，單擊下一步購買。

   2. 在購買頁面，選擇數據遷移實例的鏈路規格，詳細說明請參見下表。

      類別	參數	說明
      信息配置	資源組配置	選擇實例所屬的資源組，默認為default resource group。更多信息，請參見什么是資源管理。
      	鏈路規格	DTS為您提供了不同性能的遷移規格，遷移鏈路規格的不同會影響遷移速率，您可以根據業務場景進行選擇。更多信息，請參見數據遷移鏈路規格說明。

   3. 配置完成后，閱讀并選中《數據傳輸（按量付費）服務條款》。

   4. 單擊購買并啟動，并在彈出的確認對話框，單擊確定。

      您可在數據遷移界面查看具體進度。

9. （可選）：若自建MongoDB的接入方式為ECS自建數據庫或數據庫網關DG，您還需參考步驟1~步驟8，為剩余的Shard節點創建遷移任務。

10. 完成遷移任務。

    • 全量數據遷移

      請勿手動結束遷移任務，否則可能會導致數據不完整。您只需等待遷移任務完成即可，遷移任務會自動結束。

    • 增量數據遷移

      遷移任務不會自動結束，需要手動結束遷移任務。

      說明

      請選擇合適的時間手動結束遷移任務，例如業務低峰期或準備將業務切換至MongoDB實例時。

      1. 等待所有Shard節點的遷移任務的運行階段進入增量遷移，且運行信息中顯示無延遲狀態時，將源庫停寫幾分鐘，此時的狀態可能會顯示延遲的時間。

      2. 等待所有Shard節點遷移任務的增量遷移再次進入無延遲狀態后，手動結束遷移任務。

11. 將業務切換至阿里云MongoDB實例。