您可以在ECS實例(非GPU實例)上綁定一個彈性加速計算實例EAIS(EAIS可以為ECS實例提供GPU資源),即可生成一款新規格的GPU實例。相比直接購買GPU實例,使用該方式可以為您靈活提供GPU資源并有效節省成本。如果您初次使用EAIS,可以通過本文內容體驗在ECS實例上使用EAIS推理TensorFlow模型的完整使用流程,幫助您快速上手EAIS。
背景信息
本教程將引導您創建一個華東1(杭州)地域、eais.ei-a6.2xlarge規格的EAIS實例,并以公開的resnet50模型、inception模型和bert-base模型為例,帶您體驗基于目標檢測的推理場景下,使用EAIS推理TensorFlow模型的完整操作流程。
步驟一:創建并綁定ECS實例和EAIS實例
創建ECS實例。
創建EAIS實例。
登錄EAIS控制臺。
在左側導航欄,選擇彈性加速計算實例 EAIS > 彈性加速計算實例列表。
重要如果您的阿里云賬號未添加并授權AliyunServiceRoleForEais角色(角色權限策略為AliyunServiceRoleForEais),您需要先授權EAIS創建一個服務關聯角色后,再創建EAIS實例。具體操作,請參見服務關聯角色。
單擊創建彈性加速計算實例。
在EAIS實例購買頁面,配置EAIS實例參數,然后單擊立即購買。
配置項說明如下:
配置項
配置示例
地域
華東1(杭州)
實例名稱
eais_test
實例規格
eais.ei-a6.2xlarge
專有網絡
eais-vpc
交換機
eais-vswitch
安全組
eais-securitygroup
資源組
默認資源組
在確認訂單頁面,選中服務協議右側的我已閱讀并同意彈性加速計算實例服務協議,然后單擊立即開通。
綁定EAIS實例至ECS實例。
步驟二:啟動EAIS實例
僅使用EAIS控制臺和調用CreateEaisEi創建的EAIS實例需要執行本操作。
在EAIS實例列表中,單擊實例
eais_test
所在操作列下的啟動。在啟動實例對話框中,單擊確定。
EAIS實例列表每15秒自動刷新,當EAIS實例狀態由已綁定變為使用中時,表示EAIS實例啟動成功。
步驟三:登錄ECS實例
步驟四:搭建運行環境
執行如下命令,將pip軟件升級至最新版本。
python3 -m pip install --upgrade pip
執行如下命令,安裝TensorFlow。
以TensorFlow版本為1.15.5為例。
pip3 install tensorflow==1.15.5
執行如下命令,安裝EAIS TensorFlow。
pip3 install eais_tensorflow -f https://aiacc-inference-public.oss-cn-beijing.aliyuncs.com/eais/packages/index.html
執行如下命令,下載模型軟件包。
wget https://aiacc-inference-public.oss-cn-beijing.aliyuncs.com/eais/packages/eais2_example.tar
執行如下命令,解壓軟件包。
tar xvf eais2_example.tar
(可選)步驟五:查看EAIS相關信息
如果您想查看EAIS相關信息,只需在搭建完畢的運行環境中,執行eais_smi
命令,即可在回顯中查看EAIS實例規格、EAIS GPU使用率等信息,回顯示例如下。
步驟六:推理TensorFlow模型
執行如下命令,使用EAIS推理resnet50模型。
回顯信息如下。
執行如下命令,使用EAIS推理inception模型。
以inception V4模型為例。
pushd eais2_example/inception python3 inception.py popd
回顯信息如下。
執行如下命令,使用EAIS推理bert-base模型。
回顯信息如下。
pushd eais2_example/resnet50
python3 resnet50.py
popd
pushd eais2_example/bert
python3 bert_infer.py
popd
(可選)步驟七:停止EAIS實例
當您暫時不需要EAIS提供的GPU能力時,您可以停止EAIS實例。
僅使用EAIS控制臺和調用CreateEaisEi創建的EAIS實例支持執行本操作。
登錄EAIS控制臺。
在EAIS實例列表中,單擊實例
eais_test
所在操作列下的停止。在停止實例對話框中,單擊確定。
EAIS實例列表每15秒自動刷新,當EAIS實例狀態由使用中變為已綁定時,表示EAIS實例已停止。
(可選)步驟八:解綁并釋放EAIS實例
完成推理后,如果您需要將該EAIS實例綁定至其他ECS實例,您可以將該EAIS實例從ECS實例上解綁后,再重新綁定至其他ECS實例。如果您不再需要使用該EAIS實例,則您需要將該EAIS實例從ECS實例上解綁后,才能釋放該EAIS實例。解綁和釋放EAIS實例的具體操作如下:
登錄EAIS控制臺。
將EAIS實例從ECS實例上解綁。
在EAIS實例列表中,單擊實例
eais_test
所在操作列下的解綁。在解綁ECS實例對話框中,單擊確定。
EAIS實例列表每15秒自動刷新,當EAIS實例狀態變從已綁定變為可綁定時,表示EAIS實例解綁成功。
將已解綁的EAIS實例釋放。
在EAIS實例列表中,單擊實例
eais_test
所在操作列下的釋放資源。在釋放資源對話框中,單擊確定。
EAIS實例將從EAIS實例列表中刪除。
相關文檔
您也可以體驗EAIS推理PyTorch模型的完整使用流程,幫助您快速上手EAIS,具體操作,請參見使用EAIS推理PyTorch模型(Python)或使用EAIS推理PyTorch模型(C++)。更多EAIS實例使用方法,請參見使用EAIS實例或實踐教程。