通過專線、VPN網(wǎng)關(guān)或智能接入網(wǎng)關(guān)接入的自建MySQL遷移至其他賬號(hào)下的RDS實(shí)例
本文中含有需要您注意的重要提示信息,忽略該信息可能對您的業(yè)務(wù)造成影響,請務(wù)必仔細(xì)閱讀。
本文介紹如何使用數(shù)據(jù)傳輸服務(wù)DTS(Data Transmission Service),將通過專線、VPN網(wǎng)關(guān)、智能接入網(wǎng)關(guān)接入的自建MySQL遷移至其他云賬號(hào)下的RDS MySQL或RDS MySQL Serverless實(shí)例。DTS支持結(jié)構(gòu)遷移、全量數(shù)據(jù)遷移以及增量數(shù)據(jù)遷移,同時(shí)使用這三種遷移類型可以實(shí)現(xiàn)在自建應(yīng)用不停服的情況下,平滑地完成數(shù)據(jù)庫遷移。
前提條件
自建MySQL數(shù)據(jù)庫版本為5.1、5.5、5.6、5.7或8.0版本。
RDS MySQL實(shí)例的存儲(chǔ)空間須大于自建MySQL數(shù)據(jù)庫占用的存儲(chǔ)空間。
自建數(shù)據(jù)庫所屬的本地網(wǎng)絡(luò)已通過專線、VPN網(wǎng)關(guān)或智能接入網(wǎng)關(guān)的方式接入至阿里云,且該阿里云賬號(hào)和目標(biāo)RDS MySQL或RDS MySQL Serverless實(shí)例所屬的阿里云賬號(hào)不同。
說明相關(guān)接入方案請參見準(zhǔn)備工作概覽,本文不做詳細(xì)介紹。
背景信息
本地IDC已通過專線、VPN網(wǎng)關(guān)或智能接入網(wǎng)關(guān)接入至阿里云,現(xiàn)在需要將本地IDC中的自建MySQL通過專有網(wǎng)絡(luò)遷移至其他阿里云賬號(hào)下的RDS MySQL中,詳細(xì)架構(gòu)如下圖所示。
注意事項(xiàng)
DTS在執(zhí)行全量數(shù)據(jù)遷移時(shí)將占用源庫和目標(biāo)庫一定的讀寫資源,可能會(huì)導(dǎo)致數(shù)據(jù)庫的負(fù)載上升,在數(shù)據(jù)庫性能較差、規(guī)格較低或業(yè)務(wù)量較大的情況下(例如源庫有大量慢SQL、存在無主鍵表或目標(biāo)庫存在死鎖等),可能會(huì)加重?cái)?shù)據(jù)庫壓力,甚至導(dǎo)致數(shù)據(jù)庫服務(wù)不可用。因此您需要在執(zhí)行數(shù)據(jù)遷移前評(píng)估源庫和目標(biāo)庫的性能,同時(shí)建議您在業(yè)務(wù)低峰期執(zhí)行數(shù)據(jù)遷移(例如源庫和目標(biāo)庫的CPU負(fù)載在30%以下)。
如果源庫中待遷移的表沒有主鍵或唯一約束,且所有字段沒有唯一性,可能會(huì)導(dǎo)致目標(biāo)數(shù)據(jù)庫中出現(xiàn)重復(fù)數(shù)據(jù)。
對于數(shù)據(jù)類型為FLOAT或DOUBLE的列,DTS會(huì)通過
ROUND(COLUMN,PRECISION)
來讀取該列的值。如果沒有明確定義其精度,DTS對FLOAT的遷移精度為38位,對DOUBLE的遷移精度為308位,請確認(rèn)遷移精度是否符合業(yè)務(wù)預(yù)期。DTS會(huì)自動(dòng)地在阿里云RDS MySQL中創(chuàng)建數(shù)據(jù)庫,如果待遷移的數(shù)據(jù)庫名稱不符合阿里云RDS的定義規(guī)范,您需要在配置遷移任務(wù)之前在阿里云RDS MySQL中創(chuàng)建數(shù)據(jù)庫。
說明關(guān)于阿里云RDS的定義規(guī)范和創(chuàng)建數(shù)據(jù)庫的操作方法,請參見創(chuàng)建數(shù)據(jù)庫。
對于遷移失敗的任務(wù),DTS會(huì)觸發(fā)自動(dòng)恢復(fù)。在您將業(yè)務(wù)切換至目標(biāo)實(shí)例前,請務(wù)必先結(jié)束或釋放該任務(wù),避免該任務(wù)被自動(dòng)恢復(fù)后,導(dǎo)致源端數(shù)據(jù)覆蓋目標(biāo)實(shí)例的數(shù)據(jù)。
費(fèi)用說明
遷移類型 | 鏈路配置費(fèi)用 | 公網(wǎng)流量費(fèi)用 |
結(jié)構(gòu)遷移和全量數(shù)據(jù)遷移 | 不收費(fèi)。 | 通過公網(wǎng)將數(shù)據(jù)遷移出阿里云時(shí)將收費(fèi),詳情請參見計(jì)費(fèi)概述。 |
增量數(shù)據(jù)遷移 | 收費(fèi),詳情請參見計(jì)費(fèi)概述。 |
遷移類型說明
結(jié)構(gòu)遷移
DTS將遷移對象的結(jié)構(gòu)定義遷移到目標(biāo)實(shí)例,目前DTS支持結(jié)構(gòu)遷移的對象為表、視圖、觸發(fā)器、存儲(chǔ)過程和存儲(chǔ)函數(shù)。
說明在結(jié)構(gòu)遷移時(shí),DTS會(huì)將視圖、存儲(chǔ)過程和函數(shù)中的DEFINER轉(zhuǎn)換為INVOKER。
由于DTS不遷移USER信息,因此在調(diào)用目標(biāo)庫的視圖、存儲(chǔ)過程和函數(shù)時(shí)需要對調(diào)用者授予讀寫權(quán)限。
全量數(shù)據(jù)遷移
DTS會(huì)將自建MySQL數(shù)據(jù)庫遷移對象的存量數(shù)據(jù),全部遷移到目標(biāo)RDS MySQL實(shí)例數(shù)據(jù)庫中。
說明由于全量數(shù)據(jù)遷移會(huì)并發(fā)INSERT導(dǎo)致目標(biāo)實(shí)例的表存在碎片,全量遷移完成后目標(biāo)庫的表空間會(huì)比源庫的表空間大。
增量數(shù)據(jù)遷移
在全量遷移的基礎(chǔ)上,DTS會(huì)讀取自建MySQL數(shù)據(jù)庫的binlog信息,將自建MySQL數(shù)據(jù)庫的增量更新數(shù)據(jù)同步到目標(biāo)RDS MySQL實(shí)例中。通過增量數(shù)據(jù)遷移可以實(shí)現(xiàn)在自建應(yīng)用不停服的情況下,平滑地完成MySQL數(shù)據(jù)庫的遷移上云。
增量數(shù)據(jù)遷移支持同步的SQL操作
操作類型 | SQL操作語句 |
DML | INSERT、UPDATE、DELETE、REPLACE |
DDL |
|
數(shù)據(jù)庫賬號(hào)的權(quán)限要求
數(shù)據(jù)庫 | 結(jié)構(gòu)遷移 | 全量遷移 | 增量遷移 |
自建MySQL數(shù)據(jù)庫 | SELECT權(quán)限 | SELECT權(quán)限 | REPLICATION SLAVE、REPLICATION CLIENT、SHOW VIEW和SELECT權(quán)限 |
RDS MySQL或RDS MySQL Serverless實(shí)例 | 讀寫權(quán)限 | 讀寫權(quán)限 | 讀寫權(quán)限 |
數(shù)據(jù)庫賬號(hào)創(chuàng)建及授權(quán)方法:
自建MySQL數(shù)據(jù)庫請參見為自建MySQL創(chuàng)建賬號(hào)并設(shè)置binlog。
RDS MySQL或RDS MySQL Serverless實(shí)例請參見創(chuàng)建賬號(hào)和修改賬號(hào)權(quán)限。
準(zhǔn)備工作
使用專線所屬的阿里云賬號(hào)登錄控制臺(tái),允許DTS訪問專線所屬的網(wǎng)絡(luò),詳情請參見通過VPN網(wǎng)關(guān)實(shí)現(xiàn)本地IDC與DTS云服務(wù)互通。
創(chuàng)建RAM角色并授權(quán)其訪問專線所屬的阿里云賬號(hào)下的相關(guān)云資源,詳情請參見跨阿里云賬號(hào)傳輸專有網(wǎng)絡(luò)下的自建數(shù)據(jù)庫時(shí)如何配置RAM授權(quán)。
操作步驟
使用目標(biāo)RDS實(shí)例所屬的阿里云賬號(hào)登錄數(shù)據(jù)傳輸控制臺(tái)。
說明若數(shù)據(jù)傳輸控制臺(tái)自動(dòng)跳轉(zhuǎn)至數(shù)據(jù)管理DMS控制臺(tái),您可以在右下角的中單擊,返回至舊版數(shù)據(jù)傳輸控制臺(tái)。
在左側(cè)導(dǎo)航欄,單擊數(shù)據(jù)遷移。
在遷移任務(wù)列表頁面頂部,選擇遷移的目標(biāo)集群所屬地域。
單擊頁面右上角的創(chuàng)建遷移任務(wù)。
選擇實(shí)例類型為通過專線/VPN網(wǎng)關(guān)/智能接入網(wǎng)關(guān)接入的自建數(shù)據(jù)庫,然后單擊其他阿里云賬號(hào)下的專有網(wǎng)絡(luò)。
配置遷移任務(wù)的源庫及目標(biāo)庫信息。
類別
配置
說明
無
任務(wù)名稱
DTS會(huì)自動(dòng)生成一個(gè)任務(wù)名稱,建議配置具有業(yè)務(wù)意義的名稱(無唯一性要求),便于后續(xù)識(shí)別。
源庫信息
實(shí)例類型
選擇通過專線/VPN網(wǎng)關(guān)/智能接入網(wǎng)關(guān)接入的自建數(shù)據(jù)庫。
實(shí)例地區(qū)
選擇自建數(shù)據(jù)庫接入的專有網(wǎng)絡(luò)所屬地域。
所屬阿里云賬號(hào)ID
填入自建數(shù)據(jù)庫接入的阿里云賬號(hào)ID。
說明您可以使用自建數(shù)據(jù)庫接入的阿里云賬號(hào)(主賬號(hào))登錄概覽頁面,在頁面右側(cè)獲取賬號(hào)ID。
角色名稱
填入準(zhǔn)備工作中步驟3創(chuàng)建的RAM角色名稱。
對端專有網(wǎng)絡(luò)
選擇自建數(shù)據(jù)庫接入的專有網(wǎng)絡(luò)。
數(shù)據(jù)庫類型
選擇MySQL。
IP地址
填入自建MySQL數(shù)據(jù)庫的訪問地址。
端口
填入自建MySQL數(shù)據(jù)庫的服務(wù)端口,默認(rèn)為3306。
數(shù)據(jù)庫賬號(hào)
填入自建MySQL的數(shù)據(jù)庫賬號(hào),權(quán)限要求請參見數(shù)據(jù)庫賬號(hào)的權(quán)限要求。
數(shù)據(jù)庫密碼
填入該數(shù)據(jù)庫賬號(hào)的密碼。
說明源庫信息填寫完畢后,您可以單擊數(shù)據(jù)庫密碼后的測試連接來驗(yàn)證填入的源庫信息是否正確。源庫信息填寫正確則提示測試通過;如果提示測試失敗,單擊測試失敗后的診斷,根據(jù)提示調(diào)整填寫的源庫信息。
目標(biāo)庫信息
實(shí)例類型
選擇RDS實(shí)例。
實(shí)例地區(qū)
選擇目標(biāo)RDS實(shí)例所屬地域。
RDS實(shí)例ID
選擇目標(biāo)RDS實(shí)例ID。
數(shù)據(jù)庫賬號(hào)
填入目標(biāo)RDS實(shí)例的數(shù)據(jù)庫賬號(hào),權(quán)限要求請參見數(shù)據(jù)庫賬號(hào)的權(quán)限要求。
數(shù)據(jù)庫密碼
填入該數(shù)據(jù)庫賬號(hào)的密碼。
說明目標(biāo)庫信息填寫完畢后,您可以單擊數(shù)據(jù)庫密碼后的測試連接來驗(yàn)證填入的目標(biāo)庫信息是否正確。目標(biāo)庫信息填寫正確則提示測試通過;如果提示測試失敗,單擊測試失敗后的診斷,根據(jù)提示調(diào)整填寫的目標(biāo)庫信息。
連接方式
根據(jù)需求選擇非加密連接或SSL安全連接。如果設(shè)置為SSL安全連接,您需要提前開啟RDS實(shí)例的SSL加密功能,詳情請參見設(shè)置SSL加密。
配置完成后,單擊頁面右下角的授權(quán)白名單并進(jìn)入下一步。
如果源或目標(biāo)數(shù)據(jù)庫是阿里云數(shù)據(jù)庫實(shí)例(例如RDS MySQL、云數(shù)據(jù)庫MongoDB版等),DTS會(huì)自動(dòng)將對應(yīng)地區(qū)DTS服務(wù)的IP地址添加到阿里云數(shù)據(jù)庫實(shí)例的白名單;如果源或目標(biāo)數(shù)據(jù)庫是ECS上的自建數(shù)據(jù)庫,DTS會(huì)自動(dòng)將對應(yīng)地區(qū)DTS服務(wù)的IP地址添到ECS的安全規(guī)則中,您還需確保自建數(shù)據(jù)庫沒有限制ECS的訪問(若數(shù)據(jù)庫是集群部署在多個(gè)ECS實(shí)例,您需要手動(dòng)將DTS服務(wù)對應(yīng)地區(qū)的IP地址添到其余每個(gè)ECS的安全規(guī)則中);如果源或目標(biāo)數(shù)據(jù)庫是IDC自建數(shù)據(jù)庫或其他云數(shù)據(jù)庫,則需要您手動(dòng)添加對應(yīng)地區(qū)DTS服務(wù)的IP地址,以允許來自DTS服務(wù)器的訪問。DTS服務(wù)的IP地址,請參見DTS服務(wù)器的IP地址段。
警告DTS自動(dòng)添加或您手動(dòng)添加DTS服務(wù)的公網(wǎng)IP地址段可能會(huì)存在安全風(fēng)險(xiǎn),一旦使用本產(chǎn)品代表您已理解和確認(rèn)其中可能存在的安全風(fēng)險(xiǎn),并且需要您做好基本的安全防護(hù),包括但不限于加強(qiáng)賬號(hào)密碼強(qiáng)度防范、限制各網(wǎng)段開放的端口號(hào)、內(nèi)部各API使用鑒權(quán)方式通信、定期檢查并限制不需要的網(wǎng)段,或者使用通過內(nèi)網(wǎng)(專線/VPN網(wǎng)關(guān)/智能網(wǎng)關(guān))的方式接入。
選擇遷移類型和遷移對象。
配置
說明
遷移類型
如果只需要進(jìn)行全量遷移,則同時(shí)選中結(jié)構(gòu)遷移和全量數(shù)據(jù)遷移。
如果需要進(jìn)行不停機(jī)遷移,則同時(shí)選中結(jié)構(gòu)遷移、全量數(shù)據(jù)遷移和增量數(shù)據(jù)遷移。
說明如果未選中增量數(shù)據(jù)遷移,為保障數(shù)據(jù)一致性,數(shù)據(jù)遷移期間請勿在源庫中寫入新的數(shù)據(jù)。
遷移對象
在遷移對象框中單擊待遷移的對象,然后單擊圖標(biāo)將其移動(dòng)至已選擇對象框。
說明遷移對象選擇的粒度為庫、表、列。
默認(rèn)情況下,遷移對象在目標(biāo)庫中的名稱與源庫保持一致。如果您需要改變遷移對象在目標(biāo)庫中的名稱,需要使用對象名映射功能,詳情請參見庫表列映射。
如果使用了對象名映射功能,可能會(huì)導(dǎo)致依賴這個(gè)對象的其他對象遷移失敗。
映射名稱更改
如需更改遷移對象在目標(biāo)實(shí)例中的名稱,請使用對象名映射功能,詳情請參見庫表列映射。
源、目標(biāo)庫無法連接重試時(shí)間
當(dāng)源、目標(biāo)庫無法連接時(shí),DTS默認(rèn)重試720分鐘(即12小時(shí)),您也可以自定義重試時(shí)間。如果DTS在設(shè)置的時(shí)間內(nèi)重新連接上源、目標(biāo)庫,遷移任務(wù)將自動(dòng)恢復(fù)。否則,遷移任務(wù)將失敗。
說明由于連接重試期間,DTS將收取任務(wù)運(yùn)行費(fèi)用,建議您根據(jù)業(yè)務(wù)需要自定義重試時(shí)間,或者在源和目標(biāo)庫實(shí)例釋放后盡快釋放DTS實(shí)例。
源表DMS_ONLINE_DDL過程中是否復(fù)制臨時(shí)表到目標(biāo)庫
如源庫使用數(shù)據(jù)管理DMS(Data Management)執(zhí)行Online DDL變更,您可以選擇是否遷移Online DDL變更產(chǎn)生的臨時(shí)表數(shù)據(jù)。
是:遷移Online DDL變更產(chǎn)生的臨時(shí)表數(shù)據(jù)。
說明Online DDL變更產(chǎn)生的臨時(shí)表數(shù)據(jù)過大,可能會(huì)導(dǎo)致遷移任務(wù)延遲。
否:不遷移Online DDL變更產(chǎn)生的臨時(shí)表數(shù)據(jù),只遷移源庫的原始DDL數(shù)據(jù)。
說明該方案會(huì)導(dǎo)致目標(biāo)庫鎖表。
上述配置完成后,單擊頁面右下角的預(yù)檢查并啟動(dòng)。
說明在遷移任務(wù)正式啟動(dòng)之前,會(huì)先進(jìn)行預(yù)檢查。只有預(yù)檢查通過后,才能成功啟動(dòng)遷移任務(wù)。
如果預(yù)檢查失敗,單擊具體檢查項(xiàng)后的,查看失敗詳情。
您可以根據(jù)提示修復(fù)后重新進(jìn)行預(yù)檢查。
如無需修復(fù)告警檢測項(xiàng),您也可以選擇確認(rèn)屏蔽、忽略告警項(xiàng)并重新進(jìn)行預(yù)檢查,跳過告警檢測項(xiàng)重新進(jìn)行預(yù)檢查。
預(yù)檢查通過后,單擊下一步。
在彈出的購買配置確認(rèn)對話框,選擇鏈路規(guī)格并選中數(shù)據(jù)傳輸(按量付費(fèi))服務(wù)條款。
單擊購買并啟動(dòng),遷移任務(wù)正式開始。
結(jié)構(gòu)遷移+全量數(shù)據(jù)遷移
請勿手動(dòng)結(jié)束遷移任務(wù),否則可能會(huì)導(dǎo)致數(shù)據(jù)不完整。您只需等待遷移任務(wù)完成即可,遷移任務(wù)會(huì)自動(dòng)結(jié)束。
結(jié)構(gòu)遷移+全量數(shù)據(jù)遷移+增量數(shù)據(jù)遷移
遷移任務(wù)不會(huì)自動(dòng)結(jié)束,您需要手動(dòng)結(jié)束遷移任務(wù)。
重要請選擇合適的時(shí)間手動(dòng)結(jié)束遷移任務(wù),例如業(yè)務(wù)低峰期或準(zhǔn)備將業(yè)務(wù)切換至目標(biāo)集群時(shí)。
觀察遷移任務(wù)的進(jìn)度變更為增量遷移,并顯示為無延遲狀態(tài)時(shí),將源庫停寫幾分鐘,此時(shí)增量遷移的狀態(tài)可能會(huì)顯示延遲的時(shí)間。
等待遷移任務(wù)的增量遷移再次進(jìn)入無延遲狀態(tài)后,手動(dòng)結(jié)束遷移任務(wù)。
將業(yè)務(wù)切換至目標(biāo)RDS MySQL。