AutoML工作原理
AutoML實(shí)現(xiàn)自動(dòng)化調(diào)試參數(shù)的工作原理,是通過實(shí)驗(yàn)、Trial、訓(xùn)練任務(wù)進(jìn)行循環(huán)迭代,來找到最優(yōu)的超參組合。
AutoML的工作機(jī)制如下圖。
您設(shè)定好超參數(shù)的值域、搜索算法、停止條件配置后,AutoML將其作為一次實(shí)驗(yàn)(experiment)傳入到后端進(jìn)行處理。
一次實(shí)驗(yàn)會(huì)根據(jù)配置的算法來生成超參組合,而每個(gè)超參組合會(huì)對(duì)應(yīng)一個(gè)trial。
說明您可以設(shè)置多個(gè)trials并發(fā),以提升速度,但是單位時(shí)間耗費(fèi)的資源也會(huì)增多。
每個(gè)trial除了對(duì)應(yīng)一組超參組合外,并會(huì)對(duì)應(yīng)一個(gè)或多個(gè)計(jì)算任務(wù),這個(gè)任務(wù)可以是DLC任務(wù),使用通用計(jì)算資源和靈駿智算資源;也可以是MaxCompute任務(wù),使用MaxCompute計(jì)算資源。兩種資源使用分別遵循對(duì)應(yīng)服務(wù)邏輯(計(jì)費(fèi)、配置、使用)。
啟動(dòng)試驗(yàn)后,AutoML會(huì)循環(huán)查看任務(wù)指標(biāo)。
當(dāng)實(shí)驗(yàn)觸發(fā)了停止條件,如最大搜索次數(shù)、算法停止條件、所有組合計(jì)算完畢等,實(shí)驗(yàn)停止。
返回結(jié)果。這個(gè)結(jié)果可以是超參組合或者每個(gè)trial的最佳模型(您需要設(shè)置模型存儲(chǔ)路徑),同時(shí)您可以在日志數(shù)據(jù)看到。
根據(jù)上述AutoML工作原理,您啟動(dòng)實(shí)驗(yàn)前需要配置幾類參數(shù),包括實(shí)驗(yàn)基本配置、Trial配置、DLC/MaxCompute任務(wù)配置、超參搜索配置。