ECS資源復用版
ECS資源復用版是MaxCompute按量付費類型中的一種實例規(guī)格,旨在將ECS閑置實例轉(zhuǎn)換為可用的MaxCompute計算資源,該方式可以充分利用已有的計算資源,而不需要額外購買新的MaxCompute計算資源,從而在滿足大數(shù)據(jù)處理需求的同時,提高資源利用率并降低總體資源成本。本文為您介紹MaxCompute-ECS資源復用版的應(yīng)用場景、資源說明和計費說明,并幫助您了解注意事項和使用方法。
應(yīng)用場景
MaxCompute-ECS資源復用版適用于擁有ECS閑置資源并且面臨大數(shù)據(jù)計算需求的客戶。ECS資源復用版可通過資源共享將您的ECS立即生效容量預定(下文簡稱為CR)共享至MaxCompute,共享后,MaxCompute將在共享時段內(nèi)有權(quán)通過服務(wù)賬號購買您預定單內(nèi)的ECS實例,并部署MaxCompute服務(wù),將ECS實例轉(zhuǎn)換為您可直接使用的MaxCompute計算資源,旨在為您降低在ECS資源閑置的情況下,使用云服務(wù)的總體資源成本。
場景示例
假設(shè)客戶A長期購買的CR,包含50臺規(guī)格為ecs.g6.6xlarge(24 vCPU 96 GiB)的ECS實例。其中30臺ECS實例創(chuàng)建后長期持有,剩余20臺僅在每天10:00~23:00有使用需求,其余時間閑置。
客戶A在MaxCompute購買了包年包月計算資源500 CU,用于滿足00:00~08:00的離線計算作業(yè)需求。
客戶開通ECS資源復用版后,可將CR共享至MaxCompute,并將共享時間段設(shè)置為00:00~09:00。MaxCompute將在00:00購買CR內(nèi)未被占用的20臺ECS實例,并部署服務(wù),將其轉(zhuǎn)換為24*20=480 CU
的計算資源,直接用于MaxCompute作業(yè)計算,以實現(xiàn)ECS空閑資源的復用,并在09:00結(jié)束服務(wù),釋放ECS實例,將可用額度歸還至CR。共享時段結(jié)束后,客戶也可通過指定私有池ID的方式自行購買CR內(nèi)預留的ECS實例,實現(xiàn)成本和收益最大化,自行購買CR內(nèi)ECS實例的操作詳情請參見使用私有池容量創(chuàng)建實例。
前提條件
已開通MaxCompute按量付費標準版,詳情請參見開通MaxCompute。
開通MaxCompute按量付費標準版后,才可開通ECS資源復用版。
服務(wù)說明
開通MaxCompute按量付費ECS資源復用版后,意味著您可在ECS資源閑置的情況下,購買CR內(nèi)的ECS實例并部署MaxCompute服務(wù)。OnEcs資源部署服務(wù)將根據(jù)成功部署并轉(zhuǎn)換的CU量進行收費。
服務(wù) | 服務(wù)說明 | 計費說明 |
OnEcs資源部署服務(wù) | MaxCompute將在共享時段內(nèi)有權(quán)通過服務(wù)賬號購買您CR內(nèi)的ECS實例,并部署MaxCompute服務(wù),將ECS實例轉(zhuǎn)換為您可直接使用的MaxCompute計算資源。 說明
|
說明 MaxCompute服務(wù)費涵蓋部署服務(wù)所需磁盤及網(wǎng)絡(luò)費用,您無需為此額外付費。 |
使用限制
ECS資源復用版對地域及ECS實例的支持情況如下:
支持的地域:華東2(上海)。
ECS實例購買類型:立即生效容量預定。
ECS實例私有資源池類型:專有。更多信息請參見私有池服務(wù)。
ECS實例可用區(qū):上海 可用區(qū)E、上海 可用區(qū)F、上海 可用區(qū)G、上海 可用區(qū)L。更多介紹請參見ECS地域和可用區(qū)。
ECS實例規(guī)格:ecs.g6.6xlarge、ecs.g6.8xlarge、ecs.g7.6xlarge、ecs.g7.8xlarge、ecs.hfg6.6xlarge、ecs.hfg6.8xlarge、ecs.hfg7.6xlarge、ecs.hfg7.8xlarge、ecs.u1-c1m4.8xlarge。更多介紹請參見選擇實例規(guī)格。
注意事項
使用說明
開通MaxCompute-ECS資源復用版。
商品類型選擇按量付費,規(guī)格類型選擇ECS資源復用版,并配置地域信息。
單擊立即購買,閱讀并勾選服務(wù)協(xié)議后,單擊立即開通。
開通購買成功后,可在配額(Quota)管理頁面查看到系統(tǒng)默認創(chuàng)建分配的ECS資源復用版一級Quota
os_EcsQuota_p
以及二級Quotaos_EcsQuota
。重要ECS資源復用版開通后不可退訂,若不進行ECS資源共享,則不會產(chǎn)生OnEcs資源部署服務(wù)費用。
開通時如遇報錯“當前用戶不支持開通ECS資源復用版”,可通過工單或搜索(釘釘群號:11782920)加入MaxCompute開發(fā)者社區(qū)釘群聯(lián)系MaxCompute技術(shù)支持。
登錄ECS管理控制臺,購買ECS立即生效容量預定(CR)。
操作步驟請參見購買資源預定,其中重點參數(shù)配置如下:
類別
參數(shù)
描述
所需資源信息
地域/可用區(qū)
與MaxCompute-ECS資源復用版的開通地域保持一致。
資源規(guī)格
選擇符合限制條件的實例規(guī)格:ecs.g6.6xlarge、ecs.g6.8xlarge、ecs.g7.6xlarge、ecs.g7.8xlarge、ecs.hfg6.6xlarge、ecs.hfg6.8xlarge、ecs.hfg7.6xlarge、ecs.hfg7.8xlarge、ecs.u1-c1m4.8xlarge。
預留數(shù)量
期望共享的ECS實例數(shù)量。
預定資源方式
預訂方式
選擇容量預定-立即生效。
私有資源池信息
私有資源池類型
選擇專有。
說明若您的ECS閑置資源為普通ECS資源,可以將其退訂后,重新購買CR資源,實現(xiàn)資源共享。
創(chuàng)建資源共享單元。
登錄資源中心控制臺。
在左側(cè)導航欄,選擇資源共享 > 我的共享。
在頂部菜單欄左上角處,選擇共享資源所在的地域。
單擊創(chuàng)建共享單元。
在配置基本信息并添加資源頁面,輸入共享單元名稱,選擇資源類型為容量預定,并勾選需要共享的預定資源,單擊下一步。
說明ECS資源預定(CR)共享功能正在灰度發(fā)布中,如您發(fā)現(xiàn)無法在資源類型中選擇容量預定,請及時通過工單或搜索(釘釘群號:11782920)加入MaxCompute開發(fā)者社區(qū)釘群聯(lián)系MaxCompute技術(shù)支持。
在關(guān)聯(lián)權(quán)限頁面,選擇共享權(quán)限AliyunRSDefaultPermissionCapacityReservation,然后單擊下一步。
在關(guān)聯(lián)資源使用者頁面,使用者類型選擇云服務(wù)主體,使用者信息選擇云原生大數(shù)據(jù)計算服務(wù) MaxCompute,選擇每日共享時間段(默認為全天),單擊添加,然后單擊下一步。
重要共享單元創(chuàng)建成功后不支持修改共享時間段,請謹慎選擇,如需調(diào)整僅可刪除后重新創(chuàng)建。
共享時間段內(nèi),MaxCompute服務(wù)賬號實際購買資源量取決于當時資源預定的占用情況。例如:共享單元的資源預定(CR)中包含50臺規(guī)格為ecs.g6.6xlarge的ECS實例,共享時段為02:00~08:00,02:00起,MaxCompute開始購買CR中的ECS實例,在CR內(nèi)實例完全沒有被占用的情況下,即在ECS資源預定界面顯示CR臺數(shù)為0/50,同時ECS庫存充足,則MaxCompute在02:00可成功購買50臺同規(guī)格的ECS實例;若CR存在被占用情況,如在ECS資源預定界面顯示CR臺數(shù)為30/50,則MaxCompute在02:00僅可購買20臺同規(guī)格的ECS實例。并在08:00前持續(xù)嘗試購買剩余的30臺機器,直至共享時段結(jié)束。
MaxCompute服務(wù)賬號購買ECS實例及部署服務(wù)需要花費一定時間,通常在5分鐘內(nèi)完成購買,10分鐘內(nèi)完成服務(wù)部署,因此建議預留緩沖時間。
在確認并提交頁面,單擊確定。
更多資源共享相關(guān)信息請參見資源共享。
查看ECS資源復用版Quota具體信息。
登錄MaxCompute控制臺,在左上角選擇已開通ECS資源復用版的地域。
在左側(cè)導航欄,選擇工作區(qū) > 配額(Quota)管理。
在Quota管理頁面,單擊一級Quota
os_EcsQuota_p
左側(cè)的圖標可以展開二級Quota列表。二級Quota列表包含以下信息:參數(shù)名
描述
計劃CU上限
指共享單元中包含的ECS實例的vCPU總數(shù)。
例:共享單元中的ECS立即生效容量預定(CR)中,包含50臺規(guī)格為ecs.g6.6xlarge(24 vCPU 96 GiB)的ECS實例,則計劃CU上限為24*50=1200。若無共享關(guān)系存在,則為0。
共享實例詳情
指共享單元中包含的ECS實例規(guī)格及數(shù)量。
示例:
規(guī)格:ecs.g6.6xlarge,數(shù)量:50
。若無共享關(guān)系存在,則為'-'。實際可用CU
指MaxCompute實際購買成功的ECS實例的vCPU總數(shù)。
示例:共享單元中的ECS立即生效容量預定(CR)中,包含50臺規(guī)格為ecs.g6.6xlarge(24 vCPU 96 GiB)的ECS機器,共享時段為02:00~08:00,02:00起,由于CR內(nèi)實例存在被占用情況,MaxCompute實際購買了20臺同規(guī)格的ECS實例,并部署服務(wù),則實際可用CU為24*20=480,并在08:00前持續(xù)嘗試購買剩余的30臺機器,比如05:00又成功購買到10臺機器并部署服務(wù),則實際可用CU會增加為24*30=720。若無共享關(guān)系存在或未在共享時段內(nèi),則為0。
購買成功實例詳情
指MaxCompute實際購買成功的ECS實例規(guī)格及數(shù)量。
示例:
規(guī)格:ecs.g6.6xlarge,數(shù)量:30
。若無共享關(guān)系存在或未在共享時段內(nèi),則為'-'。
MaxCompute項目綁定ECS共享資源。
新增項目:可在新建項目時配置默認Quota為
os_EcsQuota
。存量項目:可在項目管理頁面,單擊目標項目操作列的管理,在參數(shù)配置頁簽的基礎(chǔ)信息區(qū)域,修改默認計算Quota為
os_EcsQuota
。
使用ECS共享資源運行作業(yè)。MaxCompute將共享的ECS資源轉(zhuǎn)換為MaxCompute計算資源Quota,使用方式與其他類型的計算Quota保持一致,具體請參見計算資源使用。
通常情況下,在綁定
os_EcsQuota
的項目下發(fā)起的作業(yè)默認為使用ECS共享資源,但若在作業(yè)的Query前指定了其他運行Quota,如默認后付費Quota,那么該作業(yè)將使用按量付費標準版計算資源。同樣,在未綁定os_EcsQuota
的項目下,也可以通過在作業(yè)的Query前使用如下命令指定計算Quota為os_EcsQuota
,此時該作業(yè)將使用ECS共享資源。set odps.task.wlm.quota=os_EcsQuota;
重要使用ECS共享資源運行作業(yè)前,請務(wù)必提前提交申請表單,申請功能選擇項目使用ECS共享資源,準確填寫需要發(fā)起作業(yè)的項目名稱及地域,我們將進行項目的后臺參數(shù)配置,否則作業(yè)會由于無法調(diào)度到ECS導致運行失敗。
ECS共享資源無法支持作業(yè)以smode模式運行,因此在作業(yè)的Query前使用命令
set odps.service.mode=off
顯式關(guān)閉smode開關(guān),否則作業(yè)將無法正常調(diào)度至ECS。查詢加速(MCQA)成功的作業(yè)無法使用命令指定計算Quota,作業(yè)消費將仍計入作業(yè)執(zhí)行項目綁定的默認計算Quota。包括但不限于在MaxCompute控制臺使用SQL分析連接、DataWorks創(chuàng)建臨時查詢中發(fā)起的查詢加速作業(yè)。
進行資源觀測。您可以在資源觀測頁面查看ECS資源復用版Quota的資源購買及消耗情況。
登錄MaxCompute控制臺,在左上角選擇地域。
在左側(cè)導航欄單擊資源觀測。
在資源觀測頁面選擇計算資源頁簽。
選擇
os_EcsQuota_p
和需要觀測的時間區(qū)間。單擊
os_EcsQuota
左側(cè)的圖標,可以查看os_EcsQuota
的CU上限、CU可用及CU消耗情況。具體指標如下:資源
參數(shù)名
描述
CPU資源
共享CPU可用
MaxCompute實際購買成功的ECS實例的vCPU總數(shù)。
共享CPU計劃上限
共享單元中包含的ECS實例的vCPU總數(shù)。
共享CPU使用
實際作業(yè)運行使用的vCPU數(shù)量。
Memory資源
共享內(nèi)存可用
MaxCompute實際購買成功的ECS實例的內(nèi)存總數(shù)。
共享內(nèi)存計劃上限
共享單元中包含的ECS實例的內(nèi)存總數(shù)。
共享內(nèi)存使用
實際被使用的內(nèi)存數(shù)量。
說明ECS共享資源可用值小于計劃上限值,可能是由于ECS資源預定容量不足或ECS庫存不足,請前往ECS資源預定查看。
查看os_EcsQuota關(guān)聯(lián)的項目列表。
查看賬單詳情
費用介紹
使用MaxCompute-ECS資源復用版,將ECS資源轉(zhuǎn)換為MaxCompute計算資源,整體包含兩部分費用:
ECS實例費用:通常,客戶通過CR直接開通的ECS實例費用,由云服務(wù)器ECS-按量付費產(chǎn)品收取。為了加以區(qū)分,MaxCompute在共享時段內(nèi)通過服務(wù)賬號代客戶購買的ECS實例的計算資源(vCPU和內(nèi)存)費用,以share_aliyun_used形式體現(xiàn)在云服務(wù)器ECS-即時生效容量預定(CR)的計費項中,詳情請參見計費概述。您可以前往ECS價格詳情頁查詢實例的對應(yīng)價格。
MaxCompute資源部署服務(wù)費用:由MaxCompute產(chǎn)品收取,按MaxCompute在共享的ECS資源上成功部署轉(zhuǎn)換而來的CU收費。公共云單價為0.15元/CU/小時。
MaxCompute服務(wù)費用包括部署服務(wù)所需磁盤及網(wǎng)絡(luò)費用,您無需額外付費。
費用查看
您可以登錄阿里云控制臺,在頂部菜單欄單擊費用,進入費用中心,單擊賬單詳情 > 明細賬單,查看ECS實例費用與MaxCompute資源部署服務(wù)費用。
賬單示例
客戶開通華東2(上海)地域ECS資源復用版后,可將CR內(nèi)的50臺規(guī)格為ecs.g6.6xlarge(24 vCPU 96 GiB)的ECS實例共享至MaxCompute,并將共享時間段設(shè)置為00:00~09:00。
階段1:假設(shè)在2023年12月30日,客戶已經(jīng)自行購買了30臺ECS實例,MaxCompute在00:00僅可購買CR內(nèi)未被占用的20臺實例,并部署服務(wù),可轉(zhuǎn)換為24*20=480CU的計算資源,則00:00~01:00的賬單詳情(部分字段)示例如下:
產(chǎn)品 | 產(chǎn)品明細 | 消費時間 | 實例ID | 計費項code | 單價 | 用量 | 官網(wǎng)價 |
云原生大數(shù)據(jù)計算服務(wù) MaxCompute | 大數(shù)據(jù)計算服務(wù)MaxCompute(按量付費) | 2023-12-30 00:00~2023-12-30 01:00 | os_EcsQuota_p;cn-shanghai | OnEcsCU | 0.15元/CU*H | 480 CU*H | ¥72 |
云服務(wù)器 ECS | 即時生效容量預定 | 2023-12-30 00:00~2023-12-30 01:00 | crp-***;share_aliyun_used;cn-beijing-btc-*** | 立即生效容量 | 6元/計算時 | 20 計算時 | ¥120 |
CR內(nèi)客戶自行購買的ECS實例相關(guān)費用會體現(xiàn)在云服務(wù)器ECS-按量付費產(chǎn)品明細中。
階段2:MaxCompute在共享時段內(nèi)持續(xù)嘗試購買,假設(shè)客戶在03:55釋放了自行購買的30臺ECS實例,MaxCompute服務(wù)賬號在04:00購買到剩余的30臺ECS實例,并部署服務(wù),可轉(zhuǎn)換為24*30=720CU的計算資源,此時轉(zhuǎn)換而來的CU量共計1200。則04:00~05:00的賬單詳情(部分字段)示例如下:
產(chǎn)品 | 產(chǎn)品明細 | 消費時間 | 實例ID | 計費項code | 單價 | 用量 | 官網(wǎng)價 |
云原生大數(shù)據(jù)計算服務(wù) MaxCompute | 大數(shù)據(jù)計算服務(wù)MaxCompute(按量付費) | 2023-12-30 04:00~2023-12-30 05:00 | os_EcsQuota_p;cn-shanghai | OnEcsCU | 0.15元/CU*H | 1200 CU*H | ¥180 |
云服務(wù)器 ECS | 即時生效容量預定 | 2023-12-30 04:00~2023-12-30 05:00 | crp-***;share_aliyun_used;cn-beijing-btc-*** | 立即生效容量 | 6元/計算時 | 50 計算時 | ¥300 |
階段3:09:00共享結(jié)束,MaxCompute釋放ECS共享資源,客戶也沒再自行購買CR內(nèi)的實例,則09:00~10:00的賬單詳情(部分字段)示例如下:
產(chǎn)品 | 產(chǎn)品明細 | 消費時間 | 實例ID | 計費項code | 單價 | 用量 | 官網(wǎng)價 |
云原生大數(shù)據(jù)計算服務(wù) MaxCompute | 大數(shù)據(jù)計算服務(wù)MaxCompute(按量付費) | 2023-12-30 09:00~2023-12-30 10:00 | os_EcsQuota_p;cn-shanghai | OnEcsCU | 0.15元/CU*H | 0 CU*H | ¥0 |
云服務(wù)器 ECS | 即時生效容量預定 | 2023-12-30 09:00~2023-12-30 10:00 | crp-***;share_aliyun_used;cn-beijing-btc-*** | 立即生效容量 | 6元/計算時 | 0 計算時 | ¥0 |
云服務(wù)器 ECS | 即時生效容量預定 | 2023-12-30 09:00~2023-12-30 10:00 | crp-***;share_aliyun_used;cn-beijing-btc-*** | 立即生效容量 | 6元/計算時 | 50 計算時 | ¥300 |
上述示例為理想情況下的賬單詳情,實際上共享資源完全購買并部署服務(wù)和釋放需要消耗一定時間,用量以實際轉(zhuǎn)換和使用值為準。
常見問題
開通時報錯“當前用戶不支持開通ECS資源復用版”,怎么辦?
請及時通過工單或搜索(釘釘群號:11782920)加入MaxCompute開發(fā)者社區(qū)釘群與我們聯(lián)絡(luò)。
創(chuàng)建資源共享單元時無法選擇資源預定類型,什么原因?
ECS資源預定(CR)共享功能正在灰度發(fā)布中。如您發(fā)現(xiàn)無法在資源類型中選擇容量預定,請及時通過工單或搜索(釘釘群號:11782920)加入MaxCompute開發(fā)者社區(qū)釘群與我們聯(lián)絡(luò)。
選擇共享資源時找不到ECS資源預定(CR),什么原因?
ECS當前僅支持共享專用模式的容量預定服務(wù),請前往ECS控制臺查看CR詳情。
創(chuàng)建資源共享單元報錯“暫不支持共享至MaxCompute”,什么原因?
說明您共享至MaxCompute的ECS資源預定有以下任意屬性不符合條件,請仔細核對后重新共享符合條件的ECS資源預定(CR):
可用區(qū):上海 可用區(qū)E、上海 可用區(qū)F、上海 可用區(qū)G、上海 可用區(qū)L。
實例規(guī)格:ecs.g6.6xlarge,ecs.g6.8xlarge,ecs.g7.6xlarge,ecs.g7.8xlarge,ecs.hfg6.6xlarge,ecs.hfg6.8xlarge,ecs.hfg7.6xlarge,ecs.hfg7.8xlarge,ecs.u1-c1m4.8xlarge。
使用os_EcsQuota的作業(yè)提交后無法運行,什么原因?
原因一:共享時間未到,EcsQuota的可用CU值為0,作業(yè)提交后處于等待資源狀態(tài)。
解決方案:等待共享時間到達,EcsQuota的可用CU值增加,作業(yè)即可成功運行。
原因二:沒有申請修改項目的后臺參數(shù)配置,作業(yè)無法調(diào)度到ECS,導致無法正常運行。
解決方案:提交申請表單,申請功能選擇項目使用ECS共享資源,準確填寫需要發(fā)起作業(yè)的項目名稱及地域,我們將進行項目的后臺參數(shù)配置。
os_EcsQuota的資源可用值小于計劃上限值,什么原因?
可能是由于ECS資源預定可用量不足或ECS庫存不足,請前往ECS資源預定查看。若可用量正常,請及時通過工單或搜索(釘釘群號:11782920)加入MaxCompute開發(fā)者社區(qū)釘群與我們聯(lián)絡(luò)。
os_EcsQuota的資源可用值存在小范圍波動,什么原因?
Quota組的資源可用值可能會發(fā)生小范圍波動,是因為部分ECS實例發(fā)生短暫不可調(diào)度,相對應(yīng)的資源值被扣減,原因包括但不限于:機器負載異常、磁盤使用異常、機器軟件部署異常等。這種情況屬于正常偶發(fā)現(xiàn)象,持續(xù)時間短,不會影響整體作業(yè)的正常運行。且OnECS資源部署服務(wù)費用依據(jù)可用值收取,因此無法調(diào)度的資源也不會增收服務(wù)費。
os_EcsQuota的資源使用量始終無法達到可用值,什么原因?
為避免因作業(yè)占滿資源導致實例異常甚至宕機,MaxCompute在ECS實例上部署服務(wù)時需要為操作系統(tǒng)以及組件預留一定資源,因此資源使用量始終無法達到可用值屬于正常現(xiàn)象。