鏡像使用說明
為了滿足用戶在AI應(yīng)用場景的鏡像使用習慣，函數(shù)計算推薦使用鏡像交付。AI與大數(shù)據(jù)領(lǐng)域的鏡像尺寸常見于GB級別，函數(shù)計算一方面提高了鏡像大小的限制，另一方面提供了鏡像加速。本文介紹鏡像大小限制、通用鏡像加速方式以及官方基礎(chǔ)鏡像的說明和使用方式。
未解壓鏡像大小限制
針對未解壓鏡像，鏡像大小限制與您使用的容器鏡像服務(wù)的實例類型和版本有關(guān)，具體如下。關(guān)于各ACR版本的計費情況，請參見計費說明。
ACR版本 | 鏡像大小限制（GB） | 是否付費 |
ACR企業(yè)版-標準版 | 10 | 是 |
ACR企業(yè)版-高級版 | 10 | 是 |
ACR企業(yè)版-基礎(chǔ)版 | 10 | 是 |
ACR個人版 | 10 | 免費 |
使用與驅(qū)動無關(guān)的容器鏡像
請勿在鏡像中添加驅(qū)動相關(guān)的組件，同時請您避免應(yīng)用對特定的驅(qū)動版本產(chǎn)生依賴。例如，不要將提供CUDA Driver API的libcuda.so放入鏡像中，此動態(tài)庫與設(shè)備內(nèi)核驅(qū)動版本強相關(guān)。鏡像中的此類動態(tài)庫不匹配可能導致應(yīng)用因兼容性問題出現(xiàn)行為異常。
創(chuàng)建函數(shù)實例時，函數(shù)計算平臺會預先將驅(qū)動相關(guān)的用戶態(tài)組件注入到容器中，這些組件與平臺提供的驅(qū)動版本相匹配。這也是NVIDIA Container Runtime等GPU容器虛擬化技術(shù)的行為，將驅(qū)動特定的任務(wù)交予平臺資源提供方，從而最大化GPU容器鏡像的環(huán)境適應(yīng)能力。函數(shù)計算GPU實例所使用的驅(qū)動由NVIDIA提供。隨著功能迭代、新卡型推出、BUG修復、驅(qū)動生命周期到期等原因，GPU實例所使用的驅(qū)動版本未來可能變化。
若您已經(jīng)在使用NVIDIA Container Runtime等GPU容器虛擬化技術(shù)，請您避免使用docker commit命令創(chuàng)建鏡像，此類鏡像中會包含已注入的驅(qū)動相關(guān)組件。當您在函數(shù)計算平臺使用此類鏡像時，可能因組件版本與平臺不匹配而產(chǎn)生未定義行為，如應(yīng)用異常等。
使用官方基礎(chǔ)鏡像
為了更好地提高兼容性和性能，函數(shù)計算的GPU提供并推薦優(yōu)先使用官方基礎(chǔ)鏡像進行業(yè)務(wù)邏輯的鏡像構(gòu)建，使您能夠更輕松地構(gòu)建自己的業(yè)務(wù)邏輯。
函數(shù)計算Serverless GPU提供了多個官方基礎(chǔ)鏡像，這些官方基礎(chǔ)鏡像包括了當前主流的機器學習框架以及熱門的模型平臺鏡像，例如PyTorch、TensorFlow、PaddlePaddle和ModelScope。您可以快速開始使用GPU進行高性能計算。這些官方基礎(chǔ)鏡像已經(jīng)預先配置好了相應(yīng)的環(huán)境和依賴，可以直接使用，省去繁瑣的安裝和配置過程。您可以在構(gòu)建業(yè)務(wù)邏輯時使用這些鏡像，以此提高應(yīng)用的性能和可靠性。以下是函數(shù)計算GPU提供的基礎(chǔ)鏡像。
鏡像族 | 基礎(chǔ)鏡像地址（內(nèi)網(wǎng)拉取可使用registry-vpc前綴） | 鏡像tag | 計算框架版本 | Python版本 | CUDA版本 | Ubuntu版本 |
modelscope | registry.{cn-hangzhou|us-east-1|ap-northeast-1}.aliyuncs.com/serverless_devs/modelscope | N/A | 3.7 | 11.3.0 | 20.04 | |
PyTorch | registry.{cn-hangzhou|us-east-1|ap-northeast-1}.aliyuncs.com/serverless_devs/pytorch | 1.14.0 | 3.8 | 11.8.0 | ||
TensorFlow | registry.{cn-hangzhou|us-east-1|ap-northeast-1}.aliyuncs.com/serverless_devs/tensorflow | |||||
PaddlePaddle | registry.{cn-hangzhou|us-east-1|ap-northeast-1}.aliyuncs.com/serverless_devs/paddlepaddle | 22.04 | ||||
CUDA | registry.{cn-hangzhou|us-east-1|ap-northeast-1}.aliyuncs.com/serverless_devs/cuda | 11.8.0-devel-ubuntu22.04 | N/A | N/A |
官方基礎(chǔ)鏡像僅對GPU所在地域華東1（杭州）、華東2（上海）、華北2（北京）、華北3（張家口）、華南1（深圳）、日本（東京）和美國（弗吉尼亞）開放。關(guān)于各地域?qū)?yīng)的容器鏡像地域ID，請參見地域。
官方基礎(chǔ)鏡像功能暫時只對ACR個人版用戶生效，由于數(shù)據(jù)隔離問題，該功能無法對ACR企業(yè)版用戶提高性能表現(xiàn)。
使用基礎(chǔ)鏡像的優(yōu)勢
使用函數(shù)計算Serverless GPU的基礎(chǔ)鏡像，可以獲得以下優(yōu)勢。
更高的兼容性
函數(shù)計算Serverless GPU的基礎(chǔ)鏡像已經(jīng)針對GPU實例進行了優(yōu)化和測試，確保在GPU實例上運行的應(yīng)用程序具有更高的兼容性和穩(wěn)定性。
更優(yōu)的性能
函數(shù)計算GPU實例對基礎(chǔ)鏡像的框架和數(shù)據(jù)讀取進行了優(yōu)化，可以提供更好的端到端性能和體驗。另外，鏡像中還包含了一些常用的計算庫，如Numpy和TensorFlow等，可以幫助您更輕松地編寫高性能的代碼。
更簡化的構(gòu)建過程
您可以直接使用函數(shù)計算Serverless GPU基礎(chǔ)鏡像來構(gòu)建自己的業(yè)務(wù)邏輯，無需手動配置NumPy、SciPy等相關(guān)環(huán)境。
使用基礎(chǔ)鏡像可以幫助您更好地構(gòu)建業(yè)務(wù)邏輯，獲得更好的性能和兼容性。函數(shù)計算建議您在構(gòu)建自己的業(yè)務(wù)邏輯時使用函數(shù)計算GPU提供的基礎(chǔ)鏡像。
如何使用基礎(chǔ)鏡像
使用基礎(chǔ)鏡像非常簡單。在構(gòu)建自己的業(yè)務(wù)邏輯時，您只需要在Dockerfile中使用對應(yīng)的基礎(chǔ)鏡像即可。例如，在華東2（上海）地域進行GPU函數(shù)的開發(fā)，并且使用PyTorch基礎(chǔ)鏡像，可以在Dockerfile中添加以下內(nèi)容。
FROM registry.cn-shanghai.aliyuncs.com/serverless_devs/pytorch:22.12-py3
ADD . .
EXPOSE 9000為了方便您使用基礎(chǔ)鏡像，函數(shù)計算提供了鏡像拉取地址，可以直接拉取。例如，在使用PyTorch的基礎(chǔ)鏡像時，可以使用以下命令進行拉取。
docker pull registry.cn-shanghai.aliyuncs.com/serverless_devs/pytorch:22.12-py3常見問題
函數(shù)計算提供的基礎(chǔ)鏡像與Nvidia官方提供的鏡像是否有區(qū)別？
無區(qū)別。您無需擔心兼容性問題。
我需要的推理計算框架版本較高，但函數(shù)計算未提供，我是否可以享受到更好的性能？
可以。由于容器鏡像是分層的，所以相同計算框架高低版本之間會有部分相同的數(shù)據(jù)，您仍然有機會享受到更好的性能。
沒有找到需要的基礎(chǔ)鏡像怎么辦？
建議您加入函數(shù)計算官方用戶群（釘釘群號：11721331）獲取技術(shù)支持。
基礎(chǔ)鏡像是否兼容不同的GPU卡型？
是的。基礎(chǔ)鏡像適用于函數(shù)計算GPU實例的所有卡型，同時按量模式和預留模式也均可使用。