構(gòu)建含有OSS Connector for AI/ML環(huán)境的Docker鏡像
本文將為您介紹如何通過(guò)Docker構(gòu)建含有OSS Connector for AI/ML環(huán)境的鏡像。
前提條件
已安裝Docker。
已創(chuàng)建訪問(wèn)憑證配置文件和OSS Connector配置文件。具體操作,請(qǐng)參見(jiàn)配置OSS Connector for AI/ML。
示例
以下示例用于構(gòu)建包含OSS Connector for AI/ML Python3.12版本的Docker鏡像:
在Linux系統(tǒng)中創(chuàng)建用于構(gòu)建Docker鏡像的文本文件Dockerfile。
touch Dockerfile
在Dockerfile文本文件中添加如下配置并保存。
# 基礎(chǔ)鏡像,可替換為用戶鏡像。 FROM python:3.12.4 # 設(shè)置工作目錄。 WORKDIR /app # 將當(dāng)前目錄文件復(fù)制到容器內(nèi)/app目錄中,一般用于拷貝項(xiàng)目文件以及所需配置文件。 COPY . /app # 安裝OSS Connector for AI/ML。 RUN pip install osstorchconnector
執(zhí)行命令構(gòu)建Docker鏡像。
命令中的
your_image_name
為構(gòu)建的鏡像名稱,請(qǐng)根據(jù)實(shí)際需要填寫(xiě)。docker build -t your_image_name .
執(zhí)行命令啟動(dòng)容器并掛載宿主機(jī)上的訪問(wèn)憑證配置文件和OSS Connector配置文件。
docker run -it --name new-container-name -v /root/.alibabacloud/credentials:/app/credentials -v /etc/oss-connector/config.json:/app/config.json your_image_name bash
啟動(dòng)完容器后,你將獲得一個(gè)擁有OSS Connector for AI/ML的容器化環(huán)境。該環(huán)境中包含OSS Connector配置文件以及訪問(wèn)憑證配置文件,如下圖所示。
相關(guān)文檔
在使用帶有OSS Connector for AI/ML的容器化環(huán)境進(jìn)行訓(xùn)練任務(wù)時(shí),您可以:
使用OssMapDataset構(gòu)建適用于隨機(jī)讀取操作的映射式數(shù)據(jù)集。具體操作,請(qǐng)參見(jiàn)使用OSS中的數(shù)據(jù)構(gòu)建適用于隨機(jī)讀取的映射式數(shù)據(jù)集。
使用OssIterableDataset構(gòu)建適用于流式順序訪問(wèn)的可迭代式數(shù)據(jù)集。具體操作,請(qǐng)參見(jiàn)使用OSS中的數(shù)據(jù)構(gòu)建適用于流式順序讀取的迭代式數(shù)據(jù)集。
使用OssCheckpoint實(shí)現(xiàn)OSS中Checkpoint的讀寫(xiě)操作。具體操作,請(qǐng)參見(jiàn)使用OssCheckpoint讀寫(xiě)checkpoint文件。