AI加速
PAI-AI加速器主要用于訓練加速和推理加速,它通過數據集加速、計算加速、優化算法、調度算法和資源優化技術等多種手段,提高了AI訓練和推理的速度、易用性和穩定性,全面提升了AI計算的效率。本文為您介紹AI加速器的功能亮點。
AI加速器功能簡介
AI加速器支持的技術手段及對應的功能如下:
技術手段 | 功能概覽 |
DataSetAcc(數據集樣本訪問的加速服務) |
|
TorchAcc(模型訓練加速框架) |
|
EPL(大規模分布式訓練框架) |
|
Rapidformer(Transformer訓練加速) |
|
PAI-Blade(通用推理優化) |
|
使用AI加速器
您可以參考以下文檔鏈接快速接入AI加速器并體驗加速效果:
DataSetAcc(數據集樣本訪問的加速服務)
PAI-DataSetAcc主要解決云上AI加速-數據集加速的場景,更多關于接入和使用DataSetAcc的方法和流程,請參見數據集加速器概述。
TorchAcc(模型訓練加速框架)
PAI-TorchAcc是一個基于PyTorch的訓練加速框架,旨在提高PyTorch模型訓練的效率。關于如何接入TorchAcc及更多操作實踐內容,請參見分布式訓練加速TorchAcc概述。
EPL(大規模分布式訓練框架)
PAI-EPL是一款高效易用的分布式模型訓練框架,可以實現低成本、高性能分布式模型訓練。更多關于使用EPL實現訓練加速的操作,請參見AI加速:使用EPL實現AI訓練加速。
Rapidformer(Transformer訓練加速)
PAI-Rapidformer是PAI推出的一款PyTorch版的針對Transformer系列模型的訓練優化工具,其可以通過加速開關的方式來組合部分或全部的優化技術,以優化PyTorch版Transformer模型的訓練過程,有效提高模型訓練的速度和效率。更多關于PAI-Rapidformer的使用方法,請參見訓練加速(Rapidformer)概述。
PAI-Blade(通用推理優化)
PAI-Blade是PAI推出的一款通用推理優化工具,它結合了多種優化技術,可以對訓練完成的模型進行優化,以達到最優的推理性能。更多關于PAI-Blade的使用方法,請參見推理加速(Blade)概述。