控制臺配置

1. 登錄PAI控制臺，在頁面上方選擇目標地域，并在右側選擇目標工作空間，然后單擊進入EAS。

2. 單擊部署服務，然后在自定義模型部署區域，單擊自定義部署。

3. 在自定義部署頁面，配置以下關鍵參數，其他參數配置說明，請參見服務部署：控制臺。

   參數		描述	示例
   環境信息	模型配置	選擇OSS類型的掛載方式。	OSS路徑：oss://path/to/models/ 掛載路徑：/data-slow
   	運行命令	配置啟動參數-ckpt-dir，指向加速目錄。	python /run.py -ckpt-dir /data-fast
   服務功能	內存緩存加速	打開開關，并配置以下參數： 占用最大內存：被加速文件占用的最大內存，單位GB。被加速文件占用的最大內存，超過限制時采用LRU策略淘汰。 源路徑：加速文件的源目錄，可以是OSS或NAS中的加速文件掛載到容器中的掛載路徑，也可以是掛載路徑下的子目錄，或者是容器內的其他普通文件目錄。 掛載路徑：加速文件的掛載目錄，業務程序需從該目錄中讀取模型。	占用最大內存：20 GB 源路徑：/data-slow 掛載路徑：/data-fast

4. 參數配置完成后，單擊部署。

本地客戶端配置

步驟一：準備配置文件

在掛載配置中增加cache和mount_path參數，在script參數中配置啟動參數-ckpt-dir，同時配置示例如下。其他參數配置說明，請參見服務模型所有相關參數說明。

   {
    "containers": [
        {
            "image": "****",
            "port": 8000,
            "script": "python /run.py -ckpt-dir /data-fast"
        }
    ],
    "storage": [
        {
            "mount_path": "/data-slow",
            "oss": {
                "path": "oss://path/to/models/",
                "readOnly": false
            },
            "properties": {
                "resource_type": "model"
            }
        },
        {
            "cache": {
                "capacity": "20G",
                "path": "/data-slow"
            },
            "mount_path": "/data-fast"
        }
    ]
}

參數說明：

步驟二：部署模型服務

部署一個模型服務，使其能夠使用本地目錄內存緩存加速的功能。