資源組操作及網(wǎng)絡連通
數(shù)據(jù)同步網(wǎng)絡連通問題
資源組配置操作問題
在做離線同步時,我們需要先了解哪些DataWorks及其網(wǎng)絡能力?
做數(shù)據(jù)集成同步前,您需要非常了解以下信息:
需要同步的數(shù)據(jù)庫所在的VPC,Vswitch,地域(Region)等信息和DataWorks所在地域(Region)情況。
需要同步的數(shù)據(jù)庫和DataWorks是否存在跨賬號、跨region等特殊情況。
如果在任務同步時遇到問題,您可以先參考支持的數(shù)據(jù)源與讀寫插件,進行自助排查。
如果您在數(shù)據(jù)源測試連通性時遇到問題,您可以先根據(jù)網(wǎng)絡連通方案文檔,選擇對應的解決方案進行排查。
在使用獨享數(shù)據(jù)集成資源組時,需按照以下流程操作:購買資源組、綁定數(shù)據(jù)庫網(wǎng)絡連通的專有網(wǎng)絡、評估是否添加路由、數(shù)據(jù)庫白名單配置、獨享資源組綁定所屬工作空間。詳情請參見新增和使用獨享數(shù)據(jù)集成資源組。
同步ECS自建的數(shù)據(jù)庫的數(shù)據(jù)時,如何保障數(shù)據(jù)庫與DataWorks的網(wǎng)絡連通?
如果您需要使用獨享數(shù)據(jù)集成資源組通過內(nèi)網(wǎng)同步ECS自建的數(shù)據(jù)庫,您需要為獨享數(shù)據(jù)集成資源組做相關的網(wǎng)絡配置,詳情可參見新增和使用獨享數(shù)據(jù)集成資源組,連通方案核心點為:
獨享數(shù)據(jù)集成資源組綁定ECS所在VPC,會自動添加一個路由指向VPC網(wǎng)段(該路由不建議人為刪除哦,可能會導致訪問其他數(shù)據(jù)庫失敗,導致任務報錯。)
在數(shù)據(jù)庫白名單列表中添加獨享數(shù)據(jù)集成資源組綁定的交換機網(wǎng)段。詳情請參見:添加白名單。
數(shù)據(jù)庫和DataWorks不在同一個地域(Region)下,進行數(shù)據(jù)同步時如何保障數(shù)據(jù)庫與DataWorks的網(wǎng)絡連通?
操作前,您可以先根據(jù)網(wǎng)絡連通方案文檔,選擇對應的網(wǎng)絡連通解決方案,連通方案核心點為:
如果您使用公網(wǎng)同步跨地域(Region)的數(shù)據(jù)庫,您需要將獨享資源組本身的EIP添加到數(shù)據(jù)庫白名單列表中,詳情請參見:添加白名單。
公網(wǎng)會產(chǎn)生公網(wǎng)流量費,詳情可參見文檔公網(wǎng)流量計費說明。
數(shù)據(jù)庫和DataWorks不在同一個阿里云賬號下,進行數(shù)據(jù)同步時如何保障數(shù)據(jù)庫與DataWorks的網(wǎng)絡連通?
操作前,您可以先根據(jù)網(wǎng)絡連通方案文檔,選擇對應的解決方案進行排查。
如果您使用公網(wǎng)同步跨賬號的數(shù)據(jù)庫,您需要將獨享資源組本身的EIP添加到數(shù)據(jù)庫白名單列表中,詳情請參見:添加白名單。
說明公網(wǎng)會產(chǎn)生公網(wǎng)流量費,詳情可參見文檔公網(wǎng)流量計費說明。
如果您需要通過內(nèi)網(wǎng)同步跨賬號的數(shù)據(jù)庫,您需要做以下操作:
兩個阿里云賬號間的網(wǎng)絡需要先使用網(wǎng)絡打通工具相關云產(chǎn)品打通,如VPN、高速通道等。
獨享數(shù)據(jù)集成資源組綁定已經(jīng)和另一個阿里云賬號下網(wǎng)絡打通的VPC。
綁定VPC后,再自定義路由選擇“本地IDC”,添加目標數(shù)據(jù)庫IP。
在數(shù)據(jù)庫添加獨享資源組綁定的交換機網(wǎng)段(注意是綁定的交換機網(wǎng)段)詳情請參見:添加白名單。
訪問VPC環(huán)境下的數(shù)據(jù)庫測試連通性失敗,該如何處理?
如果您使用VPC連接地址添加的數(shù)據(jù)源:
請確認您已經(jīng)為獨享數(shù)據(jù)集成資源組綁定好數(shù)據(jù)庫所在的VPC。
已經(jīng)將獨享數(shù)據(jù)集成資源組綁定的交換機網(wǎng)段添加至數(shù)據(jù)庫白名單。詳情請參見:添加白名單。
如果您使用公網(wǎng)地址添加的數(shù)據(jù)源,使用獨享數(shù)據(jù)集成資源組測試連通性失敗時,請確認您是否已經(jīng)將獨享數(shù)據(jù)集成資源組本身的EIP添加至數(shù)據(jù)庫白名單。詳情請參見:添加白名單。
說明公網(wǎng)會產(chǎn)生公網(wǎng)流量費,詳情可參考文檔:公網(wǎng)流量計費說明。
數(shù)據(jù)源連通性有時成功,有時失敗,如何處理?
請檢查是否使用了公共資源組,公共資源組網(wǎng)絡不穩(wěn)定,建議使用獨享數(shù)據(jù)集成資源組,以保證連接的穩(wěn)定性。
已經(jīng)購買獨享資源組,但在數(shù)據(jù)源測試連通性時或任務執(zhí)行時找不到該資源組怎么辦?
請確認獨享資源組已經(jīng)綁定DataWorks工作空間。詳情請參見:新增和使用獨享數(shù)據(jù)集成資源組。
如何通過日志查看任務執(zhí)行在什么資源組類型上?
任務運行在默認的資源組上,日志中會出現(xiàn)如下信息:
running in Pipeline[basecommon_ group_xxxxxxxxx]
。任務運行在數(shù)據(jù)集成自定義資源組上,日志中會出現(xiàn)如下信息:
running in Pipeline[basecommon_xxxxxxxxx]
。任務運行在獨享數(shù)據(jù)集成資源上,日志中會出現(xiàn)如下信息:
running in Pipeline[basecommon_S_res_group_xxx]
。
如何切換任務在調(diào)度系統(tǒng)中執(zhí)行所用的資源組
在生產(chǎn)運維中心切換任務執(zhí)行使用的調(diào)度資源組和數(shù)據(jù)集成任務執(zhí)行資源組:
在數(shù)據(jù)開發(fā)界面走發(fā)布流程修改生產(chǎn)環(huán)境任務執(zhí)行使用的資源組。
說明以下方式修改資源組請記得發(fā)布,標準模式下提交操作生效范圍是開發(fā)環(huán)境,發(fā)布后操作才會在生產(chǎn)環(huán)境周期任務自動調(diào)度時生效,發(fā)布后您可以在生產(chǎn)運維中心周期任務檢查資源組修改是否生效。
1. 修改任務調(diào)度使用的資源組:
2. 修改數(shù)據(jù)集成任務執(zhí)行資源組:
如何排查自定義調(diào)度資源組等待gateway?
登錄DataWorks控制臺,在左側導航欄,單擊資源組列表,進入自定義資源組頁簽。 單擊任務使用的調(diào)度資源后的服務器管理,查看服務器的狀態(tài)是否停止,或是否被其它任務占用。
如果以上排查無法解決問題,請執(zhí)行下述命令重啟服務。
su - admin /home/admin/alisatasknode/target/alisatasknode/bin/serverctl restart
如何查看資源組對外IP,以便用于加白放行?
如果您使用獨享數(shù)據(jù)集成資源組走公網(wǎng)同步數(shù)據(jù),請在數(shù)據(jù)庫白名單列表中添加獨享數(shù)據(jù)集成資源組本身的EIP地址。獲取獨享數(shù)據(jù)集成資源組EIP地址如下:
在DataWorks控制臺的資源組頁面中的獨享資源組頁簽下,單擊數(shù)據(jù)集成資源組后的詳情,復制基本信息中的EIP地址至數(shù)據(jù)庫白名單列表中。
資源組還有剩余資源,為什么會提示任務資源不足無法啟動?
請查看資源組詳細信息,通常情況下是因為資源組剩余資源已經(jīng)不足被新任務使用,比如此時資源組通常會有排隊任務。