批量計算目前支持命令行,控制臺和SDK提交作業,本文介紹將作業提交到批量計算的相關操作。
提交作業的方法
使用命令行
bcs sub "python test.py" -p ./test.py
該命令會將 test.py 文件打包成 worker.tar.gz 并上傳到指定位置,然后再提交作業運行。 bcs命令需要先安裝 batchcompute-cli 工具 才能使用。
bcs sub 命令格式為 bcs sub <commandLine> [job_name] [options]
,更多參數詳情參考bcs sub -h
命令。
使用控制臺提交作業
將 test.py 打包上傳到 OSS
在 test.py 所在目錄運行下面的命令:
tar -czf worker.tar.gz test.py # 將 test.py 打包到 worker.tar.gz
使用 OSS 控制臺,上傳 worker.tar.gz。
注意:如果還沒有開通 OSS,請先開通;如果還需要創建 Bucket,假設創建了 Bucket 名稱為 mybucket;然后在這個 Bucket 下創建一個目錄:test。
假設您上傳到了 mybucket 桶下的 test 目錄下,則 OSS 路徑表示為: oss://mybucket/test/worker.tar.gz。
使用控制臺提交作業
打開 提交作業 頁面。
按照表單提示,填寫作業名稱為 first_job
拖拽一個任務,按照下圖填寫表單, 指定 ECS 鏡像 ID。
點擊下面的“提交作業”按鈕, 即可提交成功;提交成功后,自動跳轉到作業列表頁面,您可以在這里看到你提交的作業狀態;等待片刻后作業運行完成,即可查看結果。
使用 Python SDK 提交作業
將 test.py 打包上傳到云端 OSS
同上一節。
提交作業
from batchcompute import Client, ClientError
from batchcompute import CN_SHENZHEN as REGION
ACCESS_KEY_ID = 'your_access_key_id' #需要配置
ACCESS_KEY_SECRET = 'your_access_key_secret' #需要配置
job_desc = {
"Name": "my_job_name",
"Description": "hello test",
"JobFailOnInstanceFail": true,
"Priority": 0,
"Type": "DAG",
"DAG": {
"Tasks": {
"test": {
"InstanceCount": 1,
"MaxRetryCount": 0,
"Parameters": {
"Command": {
"CommandLine": "python test.py",
"PackagePath": "oss://mybucket/test/worker.tar.gz"
},
"StderrRedirectPath": "oss://mybucket/test/logs/",
"StdoutRedirectPath": "oss://mybucket/test/logs/"
},
"Timeout": 21600,
"AutoCluster": {
"InstanceType": "ecs.sn1.medium",
"ImageId": "img-ubuntu"
}
}
},
"Dependencies": {}
}
}
client = Client(REGION, ACCESS_KEY_ID, ACCESS_KEY_SECRET)
result = client.create_job(job_desc)
job_id = result.Id
....
更多關于Python SDK內容
請參考 Python SDK 。
使用 Java SDK 提交作業
將 test.py 打包上傳到云端 OSS
同上一節。
提交作業
import com.aliyuncs.batchcompute.main.v20151111.*;
import com.aliyuncs.batchcompute.model.v20151111.*;
import com.aliyuncs.batchcompute.pojo.v20151111.*;
import com.aliyuncs.exceptions.ClientException;
public class SubmitJob{
String REGION = "cn-shenzhen";
String ACCESS_KEY_ID = ""; //需要配置
String ACCESS_KEY_SECRET = ""; //需要配置
public static void main(String[] args) throws ClientException{
JobDescription desc = new SubmitJob().getJobDesc();
BatchCompute client = new BatchComputeClient(REGION, ACCESS_KEY_ID, ACCESS_KEY_SECRET);
CreateJobResponse res = client.createJob(desc);
String jobId = res.getJobId();
//...
}
private JobDescription getJobDesc() {
JobDescription desc = new JobDescription();
desc.setName("testJob");
desc.setPriority(1);
desc.setDescription("JAVA SDK TEST");
desc.setType("DAG");
desc.setJobFailOnInstanceFail(true);
DAG dag = new DAG();
dag.addTask(getTaskDesc());
desc.setDag(dag);
return desc;
}
private TaskDescription getTaskDesc() {
TaskDescription task = new TaskDescription();
task.setClusterId(gClusterId);
task.setInstanceCount(1);
task.setMaxRetryCount(0);
task.setTaskName("test");
task.setTimeout(10000);
AutoCluster autoCluster = new AutoCluster();
autoCluster.setImageId("img-ubuntu");
autoCluster.setInstanceType("ecs.sn1.medium");
// autoCluster.setResourceType("OnDemand");
task.setAutoCluster(autoCluster);
Parameters parameters = new Parameters();
Command cmd = new Command();
cmd.setCommandLine("python test.py");
// cmd.addEnvVars("a", "b");
cmd.setPackagePath("oss://mybucket/test/worker.tar.gz");
parameters.setCommand(cmd);
parameters.setStderrRedirectPath("oss://mybucket/test/logs/");
parameters.setStdoutRedirectPath("oss://mybucket/test/logs/");
// InputMappingConfig input = new InputMappingConfig();
// input.setLocale("GBK");
// input.setLock(true);
// parameters.setInputMappingConfig(input);
task.setParameters(parameters);
// task.addInputMapping("oss://my-bucket/disk1/", "/home/admin/disk1/");
// task.addOutputtMapping("/home/admin/disk2/", "oss://my-bucket/disk2/");
// task.addLogMapping( "/home/admin/a.log","oss://my-bucket/a.log");
return task;
}
}
更多關于 Java SDK 內容
請參考 Java SDK。
批量計算中的 CommandLine
CommandLine 不等同于 SHELL,僅支持”程序+參數”方式,比如”python test.py”或”sh test.sh”。 如果你想要執行 SHELL,可以使用”/bin/bash -c ‘cd /home/xx/ && python a.py’” 或者將 Shell 寫到一個 sh 腳本中如:test.sh, 然后用”sh test.sh”執行。
CommandLine 具體位置:
命令行工具中
bcs sub <cmd> [job_name] [options]
的 cmd。使用 Java sdk 時
cmd.setCommandLine(cmd)
中的 cmd。Python sdk 中的
taskName.Parameters.Command.CommandLine
。