日本熟妇hd丰满老熟妇,中文字幕一区二区三区在线不卡 ,亚洲成片在线观看,免费女同在线一区二区

服務部署:自定義Processor

更新時間: 2024-12-03 18:01:03

Processor是包含在線預測邏輯(模型加載和請求預測邏輯)的程序包,如果EAS提供的官方通用Processor無法滿足模型部署需求,則可以根據Processor的開發標準自定義Processor。

Processor部署

準備好模型和Processor文件等服務部署前的準備內容后,分別上傳至存儲云產品(OSS、NAS),EAS通過掛載存儲云產品來獲取部署前所需的準備內容進行服務部署。

EAS Processor部署流程如下。

image

此方式的部署要點如下。

  • PAI為您提供了多個典型場景的官方Processor供您使用,您也可以結合業務需求自行開發模型并開發自定義Processor文件,完成后分別上傳至阿里云存儲產品OSS或NAS。

  • 建議您將模型和Processor文件獨立開發分別存儲,后續可在部署時配置模型掛載路徑,Processor文件中可使用get_model_path參數來獲取配置的模型路徑,便于后續模型需頻繁迭代更新時,可方便地替換模型。

  • 使用Processor部署時,EAS會根據您選用的推理框架自動拉取官方環境鏡像來部署服務,并基于Processor文件自動為您部署一個HTTP Server用于接收后續調用服務的請求。

說明

使用Processor方式部署時,您需要保障模型的推理框架和Processor文件的開發符合開發環境要求,不如鏡像部署方式靈活高效,因此更建議您使用鏡像方式進行模型部署。

開發自定義Processor

支持使用以下編程語言開發自定義Processor:

使用自定義Processor部署模型服務

自定義Processor開發完成后,建議在本地調試通過后再進行線上服務部署。您可以通過EAS控制臺上傳或EASCMD工具進行服務部署:

  • 控制臺上傳

    選擇Processor種類自定義processor,詳情請參見服務部署:控制臺

  • EASCMD工具部署

    部署時,將resource字段配置為您已購買的專屬資源組ID,詳情請參見命令使用說明。

上一篇: TorchEasyRec Processor 下一篇: 使用Python開發自定義Processor
阿里云首頁 人工智能平臺 PAI 相關技術圈