使用自定義數據集成資源組運行數據同步任務,能夠幫助您解決DataWorks公共資源組與您的數據源無法連通的問題,實現更高速的傳輸。本文為您介紹如何新增并使用自定義數據集成資源組。
前提條件
- 購買DataWorks
僅DataWorks專業版及以上版本支持使用自定義數據集成資源組。您需要提前購買DataWorks專業版及以上版本,購買詳情請參見DataWorks版本服務計費說明。
- 已有自有服務器資源
使用自定義數據集成資源組之前,您需要已有自有服務器資源。本文以使用ECS服務器示例,為您介紹使用自定義數據集成資源組之前與自有服務器相關的準備工作,詳情請參見準備工作。
使用限制
- 權限限制
僅擁有空間管理員角色權限的用戶支持新增或修改自定義數據集成資源組。如果指定用戶需要新增或修改自定義數據集成資源組,則可授權該用戶為空間管理員角色,詳情請參見空間級模塊權限管控。
- 與ECS服務器相關的限制
- 自定義數據集成資源組所在的ECS服務器的時間與當前互聯網時間差必須在2分鐘之內,否則會導致部署的資源組服務請求接口超時,服務異常,無法執行任務。
- 一臺ECS機器只能添加于一個自定義數據集成資源組,每個資源組只能選擇一種網絡類型。
- 使用范圍限制
- 自定義數據集成資源組只能給當前工作空間作為數據同步資源組使用,不會顯示在資源組列表頁面。
- 自定義數據集成資源組不支持給手動業務流程的數據同步節點使用。
準備工作
操作流程
使用自定義數據集成資源組的主要操作流程如下:
自定義數據集成資源組配置完成后,可能出現的常見問題及解決方案,可參見常見問題;后續對?資源組的相關管理操作,可參見管理自定義數據集成資源組。
新增并配置自定義數據集成資源組
使用自定義數據集成資源組
自定義數據集成資源組創建并配置完成后,您可以通過如下方式切換任務使用的資源組為自定義數據集成資源組。說明 僅離線同步任務支持切換自定義數據集成資源組。
操作環境 | 支持的切換操作 | 界面入口 |
---|---|---|
切換生產環境資源組 | 批量切換 | 進入 勾選需要修改資源組的任務,單擊更多按鈕,選擇修改數據集成資源組,即可批量修改。
|
界面設置。
切換開發環境資源組 |
|
進入DataStudio頁面設置。
|
管理自定義數據集成資源組
自定義數據集成資源組創建并配置完成后,您可以在自定義資源組管理頁面,查看資源組的網絡類型、綁定的服務器等信息,或對目標資源組執行服務器初始化、管理、刪除等操作。
- 管理:用于查看資源組所綁定服務器的IP、狀態、資源使用率等信息。您也可以修改、刪除資源組所綁定的服務器,或為該資源組添加新的服務器。具體操作,詳情請參見新增并配置自定義數據集成資源組的添加服務器步驟。
說明
- 資源使用率不為
0%
時,表示該資源組當前的服務器中存在運行中的任務。 - 資源組添加新服務器后,必須執行服務器初始化操作。
- 資源使用率不為
- 服務器初始化:資源組添加服務器后,需要執行初始化操作。
單擊服務器初始化,按照所示步驟進行初始化。
- 刪除:單擊刪除,即可刪除目標資源組。
說明 DataWorks不支持刪除存在運行任務的資源組,執行刪除操作前,您需要確保目標資源組中不存在運行狀態的任務。
您可以進入查看并管理周期任務。
頁面,通過資源組名稱進行篩選,查看資源組中任務的運行狀態,詳情請參見
常見問題
新增并配置完成自定義數據集成資源組后,如果添加的ECS服務器一直處于停止狀態,則可能會出現下圖中的問題。
您需要按照如下步驟排查處理: