日本熟妇hd丰满老熟妇,中文字幕一区二区三区在线不卡 ,亚洲成片在线观看,免费女同在线一区二区

使用EAIS推理TensorFlow模型

您可以在ECS實例(非GPU實例)上綁定一個彈性加速計算實例EAIS(EAIS可以為ECS實例提供GPU資源),即可生成一款新規格的GPU實例。相比直接購買GPU實例,使用該方式可以為您靈活提供GPU資源并有效節省成本。如果您初次使用EAIS,可以通過本文內容體驗在ECS實例上使用EAIS推理TensorFlow模型的完整使用流程,幫助您快速上手EAIS。

背景信息

本教程將引導您創建一個華東1(杭州)地域、eais.ei-a6.2xlarge規格的EAIS實例,并以公開的resnet50模型、inception模型和bert-base模型為例,帶您體驗基于目標檢測的推理場景下,使用EAIS推理TensorFlow模型的完整操作流程。

步驟一:創建并綁定ECS實例和EAIS實例

  1. 創建ECS實例。

    1. 登錄并前往ECS實例創建頁

    2. 創建一個專有網絡類型的ECS實例,來作為EAIS實例的綁定目標。

      具體操作,請參見實例創建方式介紹

      說明

      ECS實例的操作系統推薦使用Ubuntu 18.04。

  2. 創建EAIS實例。

    1. 登錄EAIS控制臺

    2. 在左側導航欄,選擇彈性加速計算實例 EAIS > 彈性加速計算實例列表

      重要

      如果您的阿里云賬號未添加并授權AliyunServiceRoleForEais角色(角色權限策略為AliyunServiceRoleForEais),您需要先授權EAIS創建一個服務關聯角色后,再創建EAIS實例。具體操作,請參見服務關聯角色

    3. 單擊創建彈性加速計算實例

    4. 在EAIS實例購買頁面,配置EAIS實例參數,然后單擊立即購買

      創建EAIS實例.png配置項說明如下:

      配置項

      配置示例

      地域

      華東1(杭州)

      實例名稱

      eais_test

      實例規格

      eais.ei-a6.2xlarge

      專有網絡

      eais-vpc

      交換機

      eais-vswitch

      安全組

      eais-securitygroup

      資源組

      默認資源組

    5. 確認訂單頁面,選中服務協議右側的我已閱讀并同意彈性加速計算實例服務協議,然后單擊立即開通eais 訂單確認

  3. 綁定EAIS實例至ECS實例。

    1. 單擊管理控制臺,前往EAIS控制臺

      eais 購買成功

    2. 在EAIS實例列表中,單擊實例eais_test所在操作列下的綁定綁定EAIS.png

    3. 在對話框中,選擇待綁定的ECS實例。

    4. 單擊確定

      EAIS實例列表每15秒自動刷新,當EAIS實例狀態由綁定中變為已綁定時,表示EAIS實例綁定成功。

      重要

      一個EAIS實例僅支持綁定一個ECS實例,一個ECS實例僅支持綁定一個EAIS實例。更多信息,請參見使用限制

步驟二:啟動EAIS實例

重要

僅使用EAIS控制臺和調用CreateEaisEi創建的EAIS實例需要執行本操作。

  1. 在EAIS實例列表中,單擊實例eais_test所在操作列下的啟動啟動EAIS.png

  2. 啟動實例對話框中,單擊確定

    EAIS實例列表每15秒自動刷新,當EAIS實例狀態由已綁定變為使用中時,表示EAIS實例啟動成功。

步驟三:登錄ECS實例

  1. 登錄EAIS控制臺

  2. 在EAIS實例列表中,單擊實例eais_test綁定的ECS實例ID,進入該ECS實例詳情頁。單擊ECS實例ID.png

  3. 遠程登錄ECS實例。

    具體操作,請參見連接方式概述遠程連接ECS實例.png

步驟四:搭建運行環境

  1. 執行如下命令,將pip軟件升級至最新版本。

    python3 -m pip install --upgrade pip
  2. 執行如下命令,安裝TensorFlow。

    以TensorFlow版本為1.15.5為例。

    pip3 install tensorflow==1.15.5
  3. 執行如下命令,安裝EAIS TensorFlow。

    pip3 install eais_tensorflow -f https://aiacc-inference-public.oss-cn-beijing.aliyuncs.com/eais/packages/index.html
  4. 執行如下命令,下載模型軟件包。

    wget https://aiacc-inference-public.oss-cn-beijing.aliyuncs.com/eais/packages/eais2_example.tar
  5. 執行如下命令,解壓軟件包。

    tar xvf eais2_example.tar

(可選)步驟五:查看EAIS相關信息

如果您想查看EAIS相關信息,只需在搭建完畢的運行環境中,執行eais_smi命令,即可在回顯中查看EAIS實例規格、EAIS GPU使用率等信息,回顯示例如下。eais_smi工具查看硬件信息

步驟六:推理TensorFlow模型

  1. 執行如下命令,使用EAIS推理resnet50模型。

  2. pushd eais2_example/resnet50
    python3 resnet50.py
    popd
  3. 回顯信息如下。TensorFlow-resnet50

  4. 執行如下命令,使用EAIS推理inception模型。

    以inception V4模型為例。

    pushd eais2_example/inception
    python3 inception.py
    popd

    回顯信息如下。TensorFlow-inception

  5. 執行如下命令,使用EAIS推理bert-base模型。

  6. pushd eais2_example/bert
    python3 bert_infer.py
    popd
  7. 回顯信息如下。TensorFlow-bert base

(可選)步驟七:停止EAIS實例

當您暫時不需要EAIS提供的GPU能力時,您可以停止EAIS實例。

重要

僅使用EAIS控制臺和調用CreateEaisEi創建的EAIS實例支持執行本操作。

  1. 登錄EAIS控制臺

  2. 在EAIS實例列表中,單擊實例eais_test所在操作列下的停止

  3. 停止實例對話框中,單擊確定

    EAIS實例列表每15秒自動刷新,當EAIS實例狀態由使用中變為已綁定時,表示EAIS實例已停止。

(可選)步驟八:解綁并釋放EAIS實例

完成推理后,如果您需要將該EAIS實例綁定至其他ECS實例,您可以將該EAIS實例從ECS實例上解綁后,再重新綁定至其他ECS實例。如果您不再需要使用該EAIS實例,則您需要將該EAIS實例從ECS實例上解綁后,才能釋放該EAIS實例。解綁和釋放EAIS實例的具體操作如下:

  1. 登錄EAIS控制臺

  2. 將EAIS實例從ECS實例上解綁。

    1. 在EAIS實例列表中,單擊實例eais_test所在操作列下的解綁

    2. 解綁ECS實例對話框中,單擊確定

      EAIS實例列表每15秒自動刷新,當EAIS實例狀態變從已綁定變為可綁定時,表示EAIS實例解綁成功。

  3. 將已解綁的EAIS實例釋放。

    1. 在EAIS實例列表中,單擊實例eais_test所在操作列下的釋放資源

    2. 釋放資源對話框中,單擊確定

      EAIS實例將從EAIS實例列表中刪除。

相關文檔

您也可以體驗EAIS推理PyTorch模型的完整使用流程,幫助您快速上手EAIS,具體操作,請參見使用EAIS推理PyTorch模型(Python)使用EAIS推理PyTorch模型(C++)。更多EAIS實例使用方法,請參見使用EAIS實例實踐教程