資源編排服務ROS(Resource Orchestration Service)支持通過創建資源棧的方式安裝Spark集群版。
背景信息
Apache Spark是專為大規模數據處理設計的通用計算引擎。Spark將Scala用作其應用程序框架,啟用了內存分布數據集,除了能夠提供交互式查詢外,還可以迭代優化工作負載。
模板示例Spark集群版-已有專有網絡VPC在已有專有網絡、交換機和安全組等資源的基礎上,創建多臺ECS實例。其中一臺ECS實例綁定彈性公網IP(EIP)作為管理節點,其他ECS實例使用彈性伸縮進行管理。模板示例中使用的軟件版本如下:
Java JDK(Java Development Kit):1.8.0
Hadoop(分布式系統基礎架構):2.7.7
Scala(編程語言):2.12.1
Spark(計算引擎):2.1.0
使用模板創建資源棧成功后即可獲取SparkWebSiteURL,登錄Spark管理控制臺。如需通過外網訪問SparkWebSiteURL,請在安全組添加入方向8080訪問規則。具體操作,請參見添加安全組規則。
步驟一:創建資源棧
登錄資源編排控制臺。
在左側導航欄,單擊解決方案中心。
查找模板Spark 集群版(已有VPC)。
單擊創建資源棧。
在配置參數頁面,輸入資源棧名稱,并設置以下參數。
參數
說明
示例
現有VPC的實例ID
VPC實例ID。
關于如何創建和查詢VPC實例,請參見創建和管理專有網絡。
vpc-bp1m6fww66xbntjyc****
交換機可用區
專有網絡下的交換機可用區ID。
華東1可用區K
網絡交換機ID
專有網絡下的交換機ID。
關于如何創建和查詢交換機,請參見創建和管理交換機。
vsw-bp183p93qs667muql****
業務安全組ID
ECS安全組ID。
關于如何查詢安全組ID,請參見查詢安全組。
sg-bp15ed6xe1yxeycg7o****
實例規格
ECS實例規格。
請選用有效的實例規格。更多信息,請參見實例規格族。
ecs.c5.large
實例密碼
ECS實例密碼。
Test_12****
公網IP帶寬值
公網IP帶寬。
取值范圍:1~100。
單位:Mbps。
5
磁盤類型
取值:
cloud_efficiency:高效云盤。
cloud_ssd:SSD云盤。
更多信息,請參見云盤概述。
cloud_efficiency
系統盤空間
實例系統盤大小。
取值范圍:20~500
單位:GB
40
實例數量
Spark集群數量。
取值范圍:3~10
3
單擊創建。
在資源棧信息頁簽查看資源棧狀態。資源棧創建成功后,單擊輸出,獲取SparkWebSiteURL。
訪問SparkWebSiteURL,登錄Spark管理控制臺。
步驟二:查看資源
在左側導航欄,單擊資源棧。
在資源棧列表頁面,單擊目標資源棧名稱。
單擊資源頁簽,查看資源信息。
本示例中,資源信息如下表所示。
資源
數量
資源說明
規格說明
ALIYUN::ECS::Instance
1
創建一臺云服務器,用于安裝Spark Master服務。
總數量:1臺。
實例規格:ecs.c5.large。
磁盤類別:高效云盤。
系統盤空間:40GB。
分配公網IP:是。
ALIYUN::ESS::ScalingGroup
2
創建兩個彈性伸縮組,用于安裝Spark Slave服務。
彈性伸縮組會根據您設置的伸縮規則自動為您調整彈性計算資源大小,以滿足您業務需求的變化。
總數量:2臺。
實例規格:ecs.c5.large。
磁盤類別:高效云盤。
系統盤空間:40GB。
分配公網IP:是。
ALIYUN::RAM::Role
1
創建RAM角色,用于頒發短時有效的訪問令牌(STS令牌),使其成為一種更安全的授予訪問權限的方法。
無
ALIYUN::VPC::EIP
1
創建一個彈性公網IP,用于綁定ECS實例,以便通過外網訪問ECS實例。
無
ALIYUN::OOS::Template
2
創建兩個系統運維管理 OOS(CloudOps Orchestration Service)模板,用于創建生命周期掛鉤。
關于生命周期掛鉤的更多信息,請參見生命周期掛鉤。
無
說明資源收費情況,請參見官網報價或各產品定價文檔。