本文為您介紹如何使用TPC-H(商業智能計算測試)對OLAP查詢場景進行性能測試。
TPC-H簡介
以下文字描述引用自TPC Benchmark H (TPC-H):
“TPC-H是一個決策支持基準,由一套面向業務的臨時查詢和并發數據修改組成。選擇的查詢和填充數據庫的數據具有廣泛的行業相關性。該基準測試說明了決策支持系統可以檢查大量數據,執行高度復雜的查詢,并解答關鍵的業務問題。”
詳情請參見TPCH Specification。
本文的TPC-H的實現基于TPC-H的基準測試,并不能與已發布的TPC-H基準測試結果相比較,本文中的測試并不符合TPC-H基準測試的所有要求。
數據集簡介
TPC-H是由國際事務處理性能委員會(Transaction Processing Performance Council)制定的用來模擬決策支持類應用的一個測試集。目前在學術界和工業界普遍采用它來評價決策支持技術方面應用的性能。
TPC-H是根據真實的生產運行環境來建模,模擬了一套銷售系統的數據倉庫。其共包含8張表,數據量可設定從1 GB~3 TB不等。其基準測試共包含了22個查詢,主要評價指標各個查詢的響應時間,即從提交查詢到結果返回所需時間。測試結果可以綜合反映系統處理查詢時的能力。詳情請參見TPC-H基準。
操作步驟
本測試場景直接使用TPC-H中的22條查詢語句進行測試。測試數據量會直接影響測試結果,TPC-H的生成工具中使用SF(scale factor)控制生成數據量的大小,1SF對應1 GB。
以上數據量僅針對原始數據的數據量,不包括索引等空間占用,因此在準備環境時,您需要預留更多的空間。
準備工作。
您需要準備OLAP查詢場景所需的基礎環境。
說明為減少可能對測試結果有影響的變量,建議您每次使用新創建的實例進行測試,不要使用升降配的實例。
配置工具包參數。
登錄ECS實例,詳情請參見連接ECS實例。
執行以下命令,下載starrocks-benchmark測試工具包并解壓。
wget https://emr-olap.oss-cn-beijing.aliyuncs.com/packages/starrocks-benchmark-for-serverless.tar.gz tar xzvf starrocks-benchmark-for-serverless.tar.gz
執行以下命令,進入starrocks-benchmark-for-serverless目錄。
cd starrocks-benchmark-for-serverless
執行
vim group_vars/all
命令,配置Benchmark所需參數。# mysql client config login_host: fe-c-8764bab92bc6****-internal.starrocks.aliyuncs.com login_port: 9030 login_user: admin login_password: xxxx # oss config bucket: "" endpoint: "" access_key_id: "" access_key_secret: "" # benchmark config scale_factor: 1 work_dir_root: /mnt/disk1/starrocks-benchmark/workdirs dataset_generate_root_path: /mnt/disk1/starrocks-benchmark/datasets
參數詳細描述如下表所示。
參數
描述
備注
login_host
StarRocks實例中FE的內網地址。
您可以在StarRocks實例的實例詳情頁簽的FE詳情區域,查看內網地址。
重要不建議使用公網地址。
客戶端連接StarRocks服務的參數。
login_port
StarRocks實例中FE的服務端口,默認為9030。
您可以在StarRocks實例的實例詳情頁簽的FE詳情區域,查看查詢端口。
login_user
StarRocks實例的初始用戶。
login_password
StarRocks實例的初始用戶的密碼。
bucket
OSS Bucket名稱。
可選參數,OSS配置。配置后測試數據集會生成到OSS。
endpoint
OSS的訪問域名。
access_key_id
阿里云賬號的AccessKey ID。
access_key_secret
阿里云賬號的AccessKey Secret。
scale_factor
數據集的比例因子,控制生成數據量的大小。默認值為1,單位為GB。
Benchmark配置。
work_dir_root
工作目錄的根目錄,用于存放TPCH相關的建表語句、執行SQL等數據。默認值為/mnt/disk1/starrocks-benchmark/workdirs。
dataset_generate_root_path
存放生成測試數據集的路徑。默認值為/mnt/disk1/starrocks-benchmark/datasets。
如果配置了OSS,則會將對應的Bucket mount到該路徑。
執行以下命令,進行全流程自動化TPC-H測試。
bin/run_tpch.sh
全流程自動化進行TPC-H測試,主要包括database、table、22條SQL Queries、以及dataset的生成和加載、并執行Query進行測試。
其他操作:
執行以下命令,單獨執行數據集加載。
bin/run_tpch.sh reload
執行以下命令,單獨執行TPC-H查詢測試。
bin/run_tpch.sh query
查看測試結果。
測試結果概覽。
bin/run_tpch.sh
命令執行完后會直接輸出測試結果。測試結果類似下所示。TASK [tpc_h : debug] **************************************************************************************************************************************** ok: [10.1.**.**] => { "command_output.stdout_lines": [ "[info] 2022-03-01 09:51:23.295 | Run sql queries started.", "[info] 2022-03-01 09:51:23.330 | Run q10.sql started.", "[info] 2022-03-01 09:51:23.913 | Run q10.sql finished. Time taken: 0:00:00, .557 seconds", "[info] 2022-03-01 09:51:23.923 | Run q11.sql started.", "[info] 2022-03-01 09:51:24.026 | Run q11.sql finished. Time taken: 0:00:00, .100 seconds", "[info] 2022-03-01 09:51:24.038 | Run q12.sql started.", "[info] 2022-03-01 09:51:24.192 | Run q12.sql finished. Time taken: 0:00:00, .151 seconds", "[info] 2022-03-01 09:51:24.204 | Run q13.sql started.", "[info] 2022-03-01 09:51:24.553 | Run q13.sql finished. Time taken: 0:00:00, .347 seconds", "[info] 2022-03-01 09:51:24.563 | Run q14.sql started.", "[info] 2022-03-01 09:51:24.665 | Run q14.sql finished. Time taken: 0:00:00, .098 seconds", "[info] 2022-03-01 09:51:24.675 | Run q15.sql started.", "[info] 2022-03-01 09:51:24.852 | Run q15.sql finished. Time taken: 0:00:00, .175 seconds", "[info] 2022-03-01 09:51:24.864 | Run q16.sql started.", "[info] 2022-03-01 09:51:25.008 | Run q16.sql finished. Time taken: 0:00:00, .142 seconds", "[info] 2022-03-01 09:51:25.018 | Run q17.sql started.", "[info] 2022-03-01 09:51:25.269 | Run q17.sql finished. Time taken: 0:00:00, .248 seconds", "[info] 2022-03-01 09:51:25.280 | Run q18.sql started.", "[info] 2022-03-01 09:51:25.800 | Run q18.sql finished. Time taken: 0:00:00, .518 seconds", "[info] 2022-03-01 09:51:25.810 | Run q19.sql started.", "[info] 2022-03-01 09:51:25.943 | Run q19.sql finished. Time taken: 0:00:00, .130 seconds", "[info] 2022-03-01 09:51:25.953 | Run q1.sql started.", "[info] 2022-03-01 09:51:26.295 | Run q1.sql finished. Time taken: 0:00:00, .339 seconds", "[info] 2022-03-01 09:51:26.305 | Run q20.sql started.", "[info] 2022-03-01 09:51:26.708 | Run q20.sql finished. Time taken: 0:00:00, .400 seconds", "[info] 2022-03-01 09:51:26.720 | Run q21.sql started.", "[info] 2022-03-01 09:51:27.323 | Run q21.sql finished. Time taken: 0:00:00, .600 seconds", "[info] 2022-03-01 09:51:27.334 | Run q22.sql started.", "[info] 2022-03-01 09:51:27.403 | Run q22.sql finished. Time taken: 0:00:00, .065 seconds", "[info] 2022-03-01 09:51:27.415 | Run q2.sql started.", "[info] 2022-03-01 09:51:27.632 | Run q2.sql finished. Time taken: 0:00:00, .213 seconds", "[info] 2022-03-01 09:51:27.648 | Run q3.sql started.", "[info] 2022-03-01 09:51:27.917 | Run q3.sql finished. Time taken: 0:00:00, .262 seconds", "[info] 2022-03-01 09:51:27.936 | Run q4.sql started.", "[info] 2022-03-01 09:51:28.150 | Run q4.sql finished. Time taken: 0:00:00, .210 seconds", "[info] 2022-03-01 09:51:28.172 | Run q5.sql started.", "[info] 2022-03-01 09:51:28.954 | Run q5.sql finished. Time taken: 0:00:00, .778 seconds", "[info] 2022-03-01 09:51:28.976 | Run q6.sql started.", "[info] 2022-03-01 09:51:29.080 | Run q6.sql finished. Time taken: 0:00:00, .103 seconds", "[info] 2022-03-01 09:51:29.096 | Run q7.sql started.", "[info] 2022-03-01 09:51:29.445 | Run q7.sql finished. Time taken: 0:00:00, .346 seconds", "[info] 2022-03-01 09:51:29.460 | Run q8.sql started.", "[info] 2022-03-01 09:51:32.692 | Run q8.sql finished. Time taken: 0:00:03, 3.229 seconds", "[info] 2022-03-01 09:51:32.703 | Run q9.sql started.", "[info] 2022-03-01 09:51:33.318 | Run q9.sql finished. Time taken: 0:00:00, .611 seconds", "[info] 2022-03-01 09:51:33.324 | Run sql queries finished. Time taken: 0:00:10, 10.026 seconds" ] } TASK [tpc_h : debug] ******************************************************************************************************************************************************************************** ok: [10.1.0.91] => { "work_dir": "/mnt/disk1/starrocks-benchmark/workdirs/tpc_h/sf1" }
測試結果詳情。
成功執行
bin/run_tpch.sh
命令后,系統會構建好整個TPC-H測試的工作目錄并輸出<work_dir>目錄的路徑信息,您可以切換到該路徑下查看相關的Query語句、建表語句和執行日志等信息。說明本示例的<work_dir>為/mnt/disk1/starrocks-benchmark/workdirs/tpc_h/sf1。
您可以通過命令
cd <work_dir>/logs
進入工作目錄的Logs下,查看測試結果以及執行SQL的詳細結果。<work_dir>的目錄結果如下所示。
<work_dir>/ ├── config # run.sh run_mysql.sh腳本的配置。 ├── logs # 最近一次TPC-H執行日志。 │ ├── *.sql.err │ ├── *.sql.out │ └── run.log ├── queries # TPC-H涉及的22條SQL Query。 │ ├── ddl │ │ └── create_tables.sql # TPC-H建表語句。 │ └── *.sql ├── run_mysql.sh ├── run.sh # 全量執行TPC-H的Query。 └── tpch_tools # dbgen工具包。