阿里云GPU云服務器具有廣闊的覆蓋范圍、超強的計算能力、出色的網絡性能和靈活的購買方式，神行工具包（DeepGPU）是專門為GPU云服務器搭配的具有GPU計算服務增強能力的免費工具集。本文主要介紹GPU云服務器和神行工具包（DeepGPU）的優(yōu)勢。
GPU產品優(yōu)勢
覆蓋范圍廣闊
阿里云GPU云服務器在全球17個地域實現規(guī)模部署，覆蓋范圍廣，結合彈性供應、彈性伸縮等交付方式，能夠很好地滿足您業(yè)務的突發(fā)需求。
超強計算能力
阿里云GPU云服務器配備業(yè)界超強算力的GPU計算卡，結合高性能CPU平臺，單實例可提供高達1000 TFLOPS的混合精度計算性能。
網絡性能出色
阿里云GPU云服務器實例的VPC網絡最大支持450萬的PPS及32 Gbit/s的內網帶寬。在此基礎上，超級計算集群產品中，節(jié)點間額外提供高達50 Gbit/s的RDMA網絡，滿足節(jié)點間數據傳輸的低延時高帶寬要求。
購買方式靈活
支持靈活的資源付費模式，包括包年包月、按量付費、搶占式實例、預留實例券、存儲容量單位包。您可以按需要購買，避免資源浪費。
說明部分GPU實例規(guī)格族不支持使用預留實例券。更多信息，請參見預留實例券屬性。
神行工具包（DeepGPU）優(yōu)勢
神行工具包中的組件主要包括神龍AI加速引擎AIACC、AI分布式訓練通信優(yōu)化庫AIACC-ACSpeed、AI訓練計算優(yōu)化編譯器AIACC-AGSpeed、集群極速部署工具FastGPU以及GPU容器共享技術cGPU，其各自具有以下核心優(yōu)勢。
神龍AI加速引擎AIACC
神龍AI加速引擎AIACC作為阿里云自研的AI加速器，在訓練及推理場景下具有其顯著的性能優(yōu)勢，能夠提高計算效率同時降低使用成本。
統(tǒng)一加速
提供對TensorFlow、Caffe、MXNet和PyTorch多種人工智能框架的統(tǒng)一加速。
性能深度優(yōu)化
基于阿里云IaaS基礎資源（GPU、CPU、網絡以及I/O等基礎設施）提供性能的深度優(yōu)化。
彈性伸縮
基于IaaS基礎資源，支持一鍵構建、彈性伸縮。
開源兼容
輕量便捷、開源兼容。您基于開源框架編寫的算法代碼或模型代碼，幾乎無需進行修改。
AI分布式訓練通信優(yōu)化庫AIACC-ACSpeed
AIACC-ACSpeed（AIACC 2.0-AIACC Communication Speeding）作為阿里云自研的AI訓練加速器，專注于分布式訓練場景的通信優(yōu)化功能，在訓練場景下具有其顯著的性能優(yōu)勢，提高計算效率的同時能夠降低使用成本。
定制優(yōu)化
提供針對PyTorch熱門框架的特定優(yōu)化，適用于所有模型的訓練場景。
統(tǒng)一加速
基于nccl-plugin組件功能，提供對TensorFlow、Caffe、MXNet多種人工智能框架的統(tǒng)一加速。
性能深度優(yōu)化
基于阿里云IaaS基礎資源（GPU、CPU、網絡以及I/O等基礎設施）提供性能的深度優(yōu)化。
彈性伸縮
基于阿里云IaaS基礎資源，兼容PyTorch原生特性，支持一鍵構建和彈性伸縮功能。
開源兼容
輕量便捷、開源兼容。您基于開源框架編寫的算法代碼或模型代碼，幾乎無需進行修改。
如果您想了解ACSpeed在訓練模型時的性能優(yōu)勢，更多信息，請參見AIACC-ACSpeed性能數據。
AI訓練計算優(yōu)化編譯器AIACC-AGSpeed
AIACC-AGSpeed（簡稱AGSpeed）作為阿里云自研的AI訓練計算優(yōu)化編譯器，針對PyTorch熱門框架訓練場景中存在的計算瓶頸進行深度優(yōu)化，具有其顯著的性能優(yōu)勢，在提高訓練效率的同時能夠降低使用成本。
定制優(yōu)化
提供針對PyTorch熱門框架的特定優(yōu)化，適用于PyTorch框架的所有模型的訓練場景。
無感加速
通過TorchScript在PyTorch框架中獲取后端編譯器可優(yōu)化的靜態(tài)計算圖，屬于當前較成熟的方案，但該方案仍無法做到完全地準確與無感。相比PyTorch原生提供的TorchScript前端，AGSpeed具有無感加速的性能優(yōu)勢，具體說明如下所示。
性能深度優(yōu)化
基于阿里云IaaS基礎資源（GPU、CPU、網絡以及I/O等基礎設施）提供性能的深度優(yōu)化。
開源兼容
輕量便捷、開源兼容。您基于開源框架編寫的算法代碼或模型代碼，幾乎無需進行修改。
集群極速部署工具FastGPU
使用FastGPU構建人工智能計算任務時，您無需關心IaaS層的計算、存儲、網絡等資源部署操作，簡單適配即可一鍵部署，幫助您節(jié)省時間成本以及經濟成本。
節(jié)省時間
一鍵部署集群。無需分別進行IaaS層計算、存儲、網絡等資源的部署操作，將部署集群的時間縮短到5分鐘。
通過接口和命令行管理任務和資源，方便快捷。
節(jié)省成本
當數據集完成準備工作并觸發(fā)訓練或推理任務后，才會觸發(fā)GPU實例資源的購買。當訓練或推理任務結束后，將自動釋放GPU實例資源。實現了資源生命周期與任務同步，幫助您節(jié)省成本。
支持創(chuàng)建搶占式實例。
易用性好
所有資源均為IaaS層，可訪問、可調試。
滿足可視化和log管理需求，保證任務可回溯。
GPU容器共享技術cGPU
GPU容器共享技術cGPU擁有節(jié)約成本和可靈活分配資源的優(yōu)勢，從而實現您業(yè)務的安全隔離。
節(jié)約成本
隨著顯卡技術的不斷發(fā)展，半導體制造工藝的進步，單張GPU卡的算力越來越強，同時價格也越來越高。但在很多的業(yè)務場景下，一個AI應用并不需要一整張的GPU卡。cGPU的出現讓多個容器共享一張GPU卡，從而實現業(yè)務的安全隔離，提升GPU利用率，節(jié)約用戶成本。
可靈活分配資源
cGPU實現了物理GPU的資源任意劃分，您可以按照不同比例靈活配置。
支持按照顯存和算力兩個維度劃分，您可以根據需要靈活分配。
cGPU擁有靈活可配置的算力分配策略，支持三種調度策略的實時切換，滿足了AI負載的峰谷能力的要求。
