您可以在注冊模型時對模型做服務部署配置,后續一鍵部署該模型時,會直接使用該配置,您無需手動編輯模型相關的配置信息,可以提升部署效率。本文為您介紹如何做服務部署配置及一鍵部署模型服務。
服務部署配置
新模型注冊時,您可以在模型服務部署配置中,自定義配置服務部署配置信息。
選中自定義配置,并在文本框中填寫部署配置信息。
對于采用自定義鏡像部署的模型,部署服務配置樣例如下:
{ "containers": [ { "image": "registry-vpc.cn-shanghai.aliyuncs.com/xxx/yyy:zzz", "env": [ { "name": "var_name", "value": "var_value" } ], "command": "/data/eas/ENV/bin/python /data/eas/app.py", "port": 8000 } ], "storage": [ { "oss": { "readOnly": false }, "properties": { "resource_type": "model" } } ], }
其中參數配置說明,詳情請參見服務部署:自定義鏡像。EAS更完整的配置及部署方式,詳情請參見服務部署。
對于選擇預置Processor的模型,部署服務配置樣例如下:
{ "processor": "tensorflow_gpu_1.12" }
對于選擇自定義Processor的模型,部署服務配置樣例如下:
{ "processor_entry": "./service.py", "processor_type": "python", "processor_path": "http://eas-data.oss-cn-shanghai.aliyuncs.com/demo/service.py", "data_image": "registry.cn-shanghai.aliyuncs.com/eas-service/develop:latest" }
一鍵部署服務
您可以將注冊好的模型直接部署到EAS,部署時會將您的模型服務部署配置直接透傳至EAS的部署配置中。具體操作步驟如下:
在模型管理頁面,單擊模型列表操作列下的部署至EAS,并按照界面提示進行操作。頁面會自動跳轉到EAS部署服務頁面。
在部署服務頁面,根據模型服務部署配置已預填了模型服務信息區域的關鍵參數,您僅需配置其他必選參數即可開始部署,配置詳情請參見服務部署:控制臺。
文檔內容是否對您有幫助?