對于云原生網關普通實例,本文提供了不同規格下,容量閾值以及 QPS 性能作為選型參考。因網關是核心鏈路,推薦您結合兩個參數一起,進行選型。通常情況下,其中一個參數符合選型需求,那么另一個參數在同一規格下也是符合選型需求的。對于比較特殊的業務場景,若出現同一規格下,符合容量閾值,不符合 QPS 性能,或符合 QPS 性能,不符合容量閾值的情況,那么請提升規格,以保障兩個參數均符合業務要求。此外,云原生網關 Serverless 實例,您無需進行詳細的容量評估,系統會根據業務量自動進行彈性伸縮和計費,伸縮過程設定了保護閾值,不會造成無限的資損。
容量閾值
以下為不同網關規格下,面向單個網關節點的容量閾值。當網關容量指標處于警戒水位以下時,可以得到完整的SLA保障。對于核心業務,建議將網關容量指標控制在安全水位以下,從而獲得更好的穩定性。
安全水位:能夠在突發流量增長至雙倍的情況下,依然確保網關系統維持高吞吐量和低延遲性能。
警戒水位:當水位達到警戒線以上時,網關的延遲可能會增加,并且在突發流量下可能存在穩定性風險。
過載水位:當網關當前的水位超過過載閾值后,網關會拒絕接受新建立的連接,以保證網關自身的穩定性。
對于單節點部署的網關無法提供 SLA 保障,請確保業務部署了多個網關節點。當部署多個節點時,安全水位和警戒水位均是按照每個節點的規格進行累加計算。
網關規格 | 2 Core 4 GiB | 4 Core 8 GiB | 8 Core 16 GiB | 16 Core 32 GiB | |
節點數 | 1 | 1 | 1 | 1 | |
客戶端連接數 | 安全水位 | 12000 | 24000 | 48000 | 96000 |
警戒水位 | 24000 | 48000 | 96000 | 192000 | |
過載水位 | 40000 | 80000 | 160000 | 320000 | |
HTTPS每秒新建連接 | 安全水位 | 400 | 800 | 1600 | 3200 |
警戒水位 | 800 | 1600 | 3200 | 6400 | |
過載水位 | - | - | - | - | |
網絡帶寬(Gbit/s) | 安全水位 | 1 | 2 | 4 | 8 |
警戒水位 | 1 | 2 | 4 | 8 | |
過載水位 | - | - | - | - | |
CPU使用率 | 安全水位 | 30% | 30% | 30% | 30% |
警戒水位 | 60% | 60% | 60% | 60% | |
過載水位 | 90% | 90% | 90% | 90% | |
內存使用率 | 安全水位 | 75% | 75% | 75% | 75% |
警戒水位 | 75% | 75% | 75% | 75% | |
過載水位 | 90% | 90% | 90% | 90% |
QPS性能參考
網關QPS吞吐受多種因素影響,如應答大小、是否開啟HTTPS、是否開啟gzip等。下表是網關處于30%CPU水位下的QPS悲觀值(最差情況下)參考。
HTTPS新建連接會占用較多CPU資源。對于瞬時大量HTTPS并發連接的業務場景,請參考下表中HTTPS短連接的數據評估網關容量。
網關規格 | 2 Core 4 GiB | 4 Core 8 GiB | 8 Core 16 GiB | 16 Core 32 GiB | |||||||
節點數 | 3 | 5 | 3 | 5 | 3 | 5 | 3 | 5 | |||
連接類型 | 應答字節數(KBytes) | 是否使用HTTPS | 是否使用gzip | CPU處于安全水位(30%)的QPS參考 | |||||||
短連接 | 1 | 否 | 否 | 5200 | 8700 | 10500 | 17500 | 21000 | 35000 | 42000 | 70000 |
是 | 否 | 1600 | 2700 | 3200 | 5500 | 6500 | 11000 | 13000 | 22000 | ||
長連接 | 1 | 否 | 否 | 6500 | 10800 | 13000 | 21700 | 26000 | 43500 | 52000 | 87000 |
是 | 否 | 6000 | 10000 | 12000 | 20000 | 24000 | 40000 | 48000 | 80000 | ||
是 | 是 | 5200 | 8700 | 10500 | 17500 | 21000 | 35000 | 42000 | 70000 | ||
10 | 否 | 否 | 5600 | 9300 | 11200 | 18700 | 22500 | 37500 | 45000 | 75000 | |
是 | 否 | 5300 | 9000 | 10700 | 18000 | 21500 | 36000 | 43000 | 72000 | ||
是 | 是 | 3100 | 5200 | 6200 | 10500 | 12500 | 21000 | 25000 | 42000 |