本文介紹如何使用E-HPC集群運行WRF軟件進行氣象模擬計算。
背景信息
WRF(Weather Research and Forecasting)采用新一代中尺度天氣預報模式,是氣象行業廣泛應用的開源氣象模擬軟件。它為研究大氣過程提供了大量選項,并可以在多種計算平臺運行。更多信息,請參見WRF官網。
準備工作
創建E-HPC集群。具體操作,請參見使用向導創建集群。
配置集群時,軟硬件參數配置如下:
參數
說明
硬件參數
部署方式為標準,包含2個管控節點,1個計算節點和1個登錄節點,均采用ecs.c7.large實例規格,配置為2 vCPU,4 GiB內存,Ice Lake處理器,2.7 GHz。
軟件參數
鏡像選擇CentOS 7.6公共鏡像,調度器選擇slurm,打開VNC開關。
創建集群用戶。具體操作,請參見管理用戶。
本文使用的示例用戶名為wrftest,權限組為sudo權限組。
在集群中安裝WRF相關軟件。具體操作,請參見安裝軟件。
需安裝的軟件如下:
wrf-mpich,版本為3.8.1。
mpich,版本為3.2。
在集群中安裝NCL。
NCL用于處理和可視化氣象數據,具體安裝方式請參見Installing NCL。
說明由于CentOS鏡像默認安裝的Python版本較低,安裝NCL前,您需要升級Python。Python的下載地址請參見Python下載。
步驟一:運行geogrid.exe
geogrid.exe用于確定模擬區域,并把靜態地形數據插值到網格點。
登錄E-HPC集群。
登錄時,請使用具有sudo權限的用戶。具體操作,請參見登錄集群。
查看集群是否已安裝WRF相關軟件。
export MODULEPATH=/opt/ehpcmodulefiles/ module avail
預期返回如下:
----------------------------------------------------------------------------------------------------------- /opt/ehpcmodulefiles/ ------------------------------------------------------------------------------------------------------------ mpich/3.2 vnc wrf-mpich/3.8.1
加載WRF軟件環境。
module load wrf-mpich/3.8.1 mpich/3.2 echo $WPSHOME $WRFHOME
將安裝的WPS和WRF軟件拷貝到工作目錄。
說明請將命令中的
$WPSCOPYHOME
和$WRFCOPYHOME
替換為實際的工作目錄,本文使用/home/wrftest
作為示例。操作后,該目錄下將生成WPS和WRFV3兩個目錄。cp -r $WPSHOME $WPSCOPYHOME cp -r $WRFHOME $WRFCOPYHOME
進入WPS目錄,然后下載并解壓地表數據。
說明本示例中地表數據使用geog_complete.tar.gz,您也可以根據需要下載其他地表數據。更多信息,請參見WRF官網。
cd /home/wrftest/WPS wget https://www2.mmm.ucar.edu/wrf/src/wps_files/geog_complete.tar.gz tar -zxvf geog_complete.tar.gz
鏈接到GEOGRID.TBL文件。
GEOGRID.TBL文件定義了geogrid.exe需要插值到網格點上的各靜態地理數據集參數。
ln -s geogrid/GEOGRID.TBL GEOGRID.TBL
修改namelist.wps文件。
namelist是WPS(WRF Preprocessing System,WRF預處理系統)中的一個共享文件,該文件按照各個程序(geogrid.exe、ungrib.exe、metgrid.exe)所需要參數的不同分成三個部分(&geogrid、&ungrib、&metgrid)及一個共享部分(&share),分別定義了WPS模塊所需要的各種參數。如下示例為推薦配置,未提及的參數保持默認即可。詳細的namelist.wps文件參數及說明,請參見namelist.wps。
說明本示例中,namelist.wps文件存放在
/home/wrftest/WPS
目錄下。在namelist.wps文件中,請使用
!
作為注釋標識。
!共享部分 &share !wrf_core:選擇WRF dynamical core,有'ARW'和'NMM'兩個選項,默認值為'ARW'。 wrf_core = 'ARW', !start_date:模擬開始時間 start_date = '2005-08-28_00:00:00', !end_date:模擬結束時間 end_date = '2005-08-29_00:00:00', interval_seconds = 21600, !max_dom:模擬網格數(粗網格+嵌套網格),本示例中包含一個粗網格 max_dom = 1, !#io_form_geogrid: geogrid程序輸出格式 io_form_geogrid = 2, / !geogrid部分 !#確定區域范圍、嵌套關系、模型投影 &geogrid parent_id = 1, parent_grid_ratio = 1, i_parent_start = 1, j_parent_start = 1, !確定網格在東西方向、南北方向的尺度(區域的矢量場的柵格數),本示例中為98*70個網格點 e_we = 98, e_sn = 70, geog_data_res = 'default', !定義區域的柵格尺寸,本示例中網格分辨率為30km dx = 30000, dy = 30000, !定義投影方式,關于投影方式說明可以參考WRF官網 map_proj = 'mercator' !定義區域的中心經緯度坐標 ref_lat = 25.00, ref_lon = -89.00, !投影的三個參數值,隨投影方式不同設定不同 truelat1 = 0.0, truelat2 = 0.0, stand_lon = -89.0, !geog_data_path = '地表數據存儲路徑' geog_data_path = '/home/wrftest/WPS/geog' / !ungrib部分 &ungrib !out_format:ungrib生成的可供metgrid讀取的文件格式,有'WPS'、'SI'、'MM5'三種格式,默認值為'WPS' out_format = 'WPS', !prefix:ungrib生成的中間文件路徑和文件前綴名 prefix = 'FILE' / !metgrid部分 &metgrid !fg_name:ungrib程序生成的文件 fg_name = 'FILE', !io_form_metgrid:metgrid生成的文件格式 !支持三種格式1(binary,后綴名.int)、2(net CDF,后綴名.nc)、3(Grib1,后綴名.gr1) !默認值:2 io_form_metgrid = 2 /
將靜態地形數據插值到網格點。
./geogrid.exe
運行geogrid.exe成功后,會在
/home/wrftes/WPS
目錄下生成geo_em.d0N.nc地形文件,預期返回結果如下:
步驟二:運行ungrib.exe
ungrib.exe用于從GRIB格式的氣象數據中提取所需要的氣象要素場。
下載并解壓Katrina氣象數據。
說明本示例中氣象數據為Katrina.tar.gz,請下載Katrina.tar.gz。您也可以根據需要下載其他氣象數據,更多信息,請參見氣象數據。
cd /home/wrftest/WPS wget http://www2.mmm.ucar.edu/wrf/TUTORIAL_DATA/Katrina.tar.gz tar -zxvf Katrina.tar.gz
通過link_grib.csh腳本鏈接氣象數據。
./link_grib.csh /home/wrftest/WPS/Katrina/avn*
選擇氣象數據相應的Vtable。
本示例使用的Vtable為Vtable.GFS,您可以根據需要使用其他的Vtable。
ln -sf ungrib/Variable_Tables/Vtable.GFS Vtable
提取所需要的氣象要素場。
./ungrib.exe
運行ungrib.exe成功后,會在
/home/wrftest/WPS
目錄下生成FILE:YYYY-MM-DD_hh*文件,預期返回結果如下:
步驟三:運行metgrid.exe
metgrid.exe用于將ungrib.exe提取出的氣象場數據水平插值到由geogrid.exe確定的網格點上。
鏈接到GEOGRID.TBL文件。
GEOGRID.TBL文件定義了metgrid.exe如何將氣象數據水平插值到網格點上。
cd /home/wrftest/WPS ln -s metgrid/METGRID.TBL.ARW METGRID.TBL
將氣象場數據水平插值到由geogrid確定的網格點上。
./metgrid.exe
運行metgrid.exe成功后,會在
/home/wrftes/WPS
目錄下生成met_em.d0N.yyyy-mm-dd_hh:mm:ss.nc文件,預期返回結果如下:
步驟五:運行wrf.exe
wrf.exe用于輸出天氣預測數據。
連接WPS的處理結果。
cd /home/wrftest/WRFV3 ln -s /home/wrftest/WPS/met_em.d01.2005-08-2*.
修改namelist.input文件。
cd /home/wrftest/WRFV3/run vim namelist.input
namelist.input文件中&time_control、&domains部分的相關參數需要與namelist.wps文件中的參數保持一致。本文使用的配置示例如下,詳細的namelist.input文件參數及說明,請參見namelist.input。
&time_control run_days = 0, run_hours = 12, run_minutes = 0, run_seconds = 0, start_year = 2005, 2005, 2005, start_month = 08, 08, 08, start_day = 28, 28, 28, start_hour = 00, 00, 00, start_minute = 00, 00, 00, start_second = 00, 00, 00, end_year = 2005, 2005, 2005, end_month = 08, 08, 08, end_day = 29, 29, 29, end_hour = 00, 00, 00, end_minute = 00, 00, 00, end_second = 00, 00, 00, interval_seconds = 21600 input_from_file = .true.,.true.,.true., history_interval = 180, 60, 60, frames_per_outfile = 1000, 1000, 1000, restart = .false., restart_interval = 5000, io_form_history = 2 io_form_restart = 2 io_form_input = 2 io_form_boundary = 2 debug_level = 0 iofields_filename = "extraoutput_d01.txt" / &domains time_step = 180, time_step_fract_num = 0, time_step_fract_den = 1, max_dom = 1, e_we = 98, 112, 94, e_sn = 70, 97, 91, e_vert = 30, 30, 30, p_top_requested = 5000, num_metgrid_levels = 27, num_metgrid_soil_levels = 4, dx = 30000, 10000, 3333.33, dy = 30000, 10000, 3333.33, grid_id = 1, 2, 3, parent_id = 0, 1, 2, i_parent_start = 1, 31, 30, j_parent_start = 1, 17, 30, parent_grid_ratio = 1, 3, 3, parent_time_step_ratio = 1, 3, 3, feedback = 1, smooth_option = 0, / &physics mp_physics = 6, 6, 6, ra_lw_physics = 4, 4, 4, ra_sw_physics = 4, 4, 4, radt = 10, 10, 10, sf_sfclay_physics = 1, 1, 1, sf_surface_physics = 2, 2, 2, bl_pbl_physics = 1, 1, 1, bldt = 0, 0, 0, cu_physics = 0, 0, 0, cudt = 0, 0, 0, isfflx = 1, ifsnow = 0, icloud = 1, surface_input_source = 1, num_soil_layers = 4, sf_urban_physics = 0, 0, 0, / &fdda / &dynamics w_damping = 0, diff_opt = 1, 1, 1, km_opt = 4, 4, 4, diff_6th_opt = 0, 0, 0, diff_6th_factor = 0.12, 0.12, 0.12, base_temp = 290. damp_opt = 0, zdamp = 5000., 5000., 5000., dampcoef = 0.2, 0.2, 0.2 khdif = 0, 0, 0, kvdif = 0, 0, 0, non_hydrostatic = .true., .true., .true., moist_adv_opt = 1, 1, 1, scalar_adv_opt = 1, 1, 1, / &bdy_control spec_bdy_width = 5, spec_zone = 1, relax_zone = 4, specified = .true., .false.,.false., nested = .false., .true., .true., / &grib2 / &namelist_quilt nio_tasks_per_group = 0, nio_groups = 1, /
初始化模擬數據。
./real.exe
運行real.exe成功后,會在
/home/wrftest/WRFV3/run
目錄下生成wrfinput_d01、wrfbdy_d01文件。輸出天氣預測數據。
編寫作業腳本。
vim wrf.slurm
wrf.slurm的內容示例如下:
#!/bin/bash #SBATCH -N 1 #SBATCH -n 2 #SBATCH --cpus-per-task=1 #SBATCH -J wrf-test #SBATCH -o wrf_test.log module load wrf-mpich/3.8.1 mpich/3.2 mpirun -np 2 -ppn 1 -bind-to core:1 /home/wrftest/WRFV3/run/wrf.exe
提交作業。
sbatch wrf.slurm
作業運行成功后,會在
/home/wrftest/WRFV3/run
目錄下生成wrfout_d01_[date]文件,例如wrfout_d01_2005-08-28_00:00:00。
使用NCL圖像化WRF運行結果。
示例如下: