網(wǎng)絡(luò)優(yōu)化
隨著云上應(yīng)用場景的多樣性趨勢和復(fù)雜度增加,需要從如下幾個方面考慮網(wǎng)絡(luò)優(yōu)化方案:
全球化部署優(yōu)化
用戶業(yè)務(wù)的全球化布局,帶來了基礎(chǔ)設(shè)施的全球化部署需求。阿里云為全球部署的場景提供了云企業(yè)網(wǎng) CEN(Cloud Enterprise Network)和全球加速 GA(Global Accelerator)產(chǎn)品。
CEN是運行在阿里云私有全球網(wǎng)絡(luò)上的一張高可用網(wǎng)絡(luò)。云企業(yè)網(wǎng)通過轉(zhuǎn)發(fā)路由器 TR(TransitRouter)在跨地域?qū)S芯W(wǎng)絡(luò)之間,專有網(wǎng)絡(luò)與本地數(shù)據(jù)中心間搭建私網(wǎng)通信通道, 支持在地域內(nèi)定義靈活的互通、隔離、引流策略,幫助您打造一張靈活、可靠、大規(guī)模的企業(yè)級云上網(wǎng)絡(luò)。企業(yè)版轉(zhuǎn)發(fā)路由器實例可以支持100 Gbps 流量轉(zhuǎn)發(fā),支持最多1000個VPC。
全球加速用于覆蓋用戶全球的網(wǎng)絡(luò)加速,實現(xiàn)全球網(wǎng)絡(luò)就近接入,可以減少延遲、抖動、丟包等網(wǎng)絡(luò)問題對服務(wù)質(zhì)量的影響,為全球終端客戶提供高可用和高性能的網(wǎng)絡(luò)加速服務(wù)。因為阿里云擁有遍布全球的網(wǎng)絡(luò)加速節(jié)點,基于阿里云全球傳輸網(wǎng)絡(luò)可以將全球化部署的應(yīng)用的網(wǎng)絡(luò)質(zhì)量優(yōu)化。全球加速實例最大帶寬處理能力達(dá)4 Gbps,最大并發(fā)連接數(shù)達(dá)100萬,典型適用場景包括游戲加速、跨國企業(yè)應(yīng)用加速、互聯(lián)網(wǎng)應(yīng)用加速等。
網(wǎng)絡(luò)路徑優(yōu)化
在公網(wǎng)場景中,如海外流量在公網(wǎng)回中國內(nèi)地的場景,因為跨境公網(wǎng)質(zhì)量差導(dǎo)致了擁塞丟包,同時因為無直連回國公網(wǎng)線路導(dǎo)致了延遲高。阿里云提供BGP(多線)精品線路EIP,可以提高國際業(yè)務(wù)訪問質(zhì)量。相比BGP(多線)線路, BGP(多線)精品線路在為中國內(nèi)地終端客戶(不包括中國內(nèi)地數(shù)據(jù)中心)提供服務(wù)時,通過運營商精品公網(wǎng)直連中國內(nèi)地,時延更低,目前精品 EIP 對于亞太區(qū)域有較為完整的覆蓋。
在就近訪問場景中,可以利用CDN將源站資源緩存到阿里云遍布全球的加速節(jié)點,當(dāng)終端用戶請求訪問和獲取源站資源時無需回源,可就近獲取CDN節(jié)點上已經(jīng)緩存的資源,提高資源訪問速度,同時分擔(dān)源站壓力。
在專線回源場景中,廣義上來講阿里云提供了諸如GA加速IP和Anycast EIP這類產(chǎn)品,讓用戶及用戶的終端能通過公網(wǎng) IP 就近接入阿里云的POP點,通過阿里云的專線來進(jìn)行源站回源,解決了跨國互聯(lián)網(wǎng)線路可能出現(xiàn)的延遲和丟包問題。
混合云網(wǎng)絡(luò)優(yōu)化
當(dāng)用戶需要打通本地數(shù)據(jù)中心 IDC /總部/分支/移動終端等和云上專有網(wǎng)絡(luò) VPC 來實現(xiàn)私網(wǎng)互訪時,通常有高速通道、VPN和智能接入網(wǎng)關(guān)等幾種解決方案。整體來看高速通道建立了高速、穩(wěn)定、安全的私網(wǎng)通信,從性能層面無疑是最佳選擇,但由于幾種方案適用的場景差異性比較大,簡單地橫向比較在實踐中的意義并不大,具體情況還是需要結(jié)合具體場景進(jìn)行選擇。作為連接 IDC 與云上專有網(wǎng)絡(luò) VPC 的可選項,基于物理專線的高速通道單鏈路最大支持100 Gbps的帶寬,而基于公網(wǎng)鏈路加密的 VPN 網(wǎng)絡(luò)帶寬受限于公網(wǎng)IP的帶寬,阿里云當(dāng)前單個IPsec連接支持的帶寬規(guī)格最大為1000 Mbps。
ECS網(wǎng)絡(luò)性能優(yōu)化
在用戶業(yè)務(wù)的網(wǎng)絡(luò)密集型應(yīng)用場景中,例如 NFV/SD-WAN、轉(zhuǎn)發(fā)網(wǎng)元業(yè)務(wù)、視頻彈幕等,ECS 單實例的性能容量至關(guān)重要,隨著阿里云軟硬件一體的虛擬交換機(jī)技術(shù)的研發(fā)和深化,在ECS第7代網(wǎng)絡(luò)增強(qiáng)型實例中,依托第四代神龍架構(gòu),提供穩(wěn)定可預(yù)期的超高性能,單實例最高支持3000萬PPS網(wǎng)絡(luò)收發(fā)包能力和高達(dá)100Gbit/s的網(wǎng)絡(luò)帶寬基礎(chǔ)。單 ECS 的網(wǎng)絡(luò)性能代表了用戶的算力在云上所能獲得的最大的內(nèi)網(wǎng)和互聯(lián)網(wǎng)的訪問能力,當(dāng)前阿里云 ECS 單實例提供的網(wǎng)絡(luò)性能給用戶提供豐富的優(yōu)化選項。
負(fù)載均衡性能優(yōu)化
在網(wǎng)絡(luò)密集型應(yīng)用場景中,負(fù)載均衡通常作為集群流程的入口,通過將流量分發(fā)到不同的后端服務(wù)器來擴(kuò)展應(yīng)用系統(tǒng)的吞吐能力,并且可以消除系統(tǒng)中的單點故障,提升應(yīng)用系統(tǒng)的可用性。對于阿里云提供的SLB包括應(yīng)用型負(fù)載均衡ALB(Application Load Balancer) 、網(wǎng)絡(luò)型負(fù)載均衡NLB(Network Load Balancer)和傳統(tǒng)型負(fù)載均衡CLB(Classic Load Balancer),三者定位不同,ALB 專門面向七層,提供超強(qiáng)的業(yè)務(wù)處理性能,提供基于內(nèi)容的高級路由特性,同時是阿里云官方云原生Ingress網(wǎng)關(guān),NLB 是四層負(fù)載均衡,支持超高性能和自動彈性能力,單實例可以達(dá)到1億并發(fā)連接,CLB 則較為平衡,支持TCP、UDP、HTTP和HTTPS協(xié)議,具備良好的四層處理能力,以及基礎(chǔ)的七層處理能力。
從性能的優(yōu)化的層面來看,在處理7層流量的場景中,推薦使用 ALB,單實例最大支持100萬QPS,并且能實現(xiàn)自動彈性,處理能力隨著業(yè)務(wù)峰值自動伸縮;在處理4層連接的場景中,推薦使用 NLB,基于NFV虛擬化平臺,不依賴物理機(jī),支持彈性和快速擴(kuò)容等需求,單實例最大支持1億并發(fā),并且也能實現(xiàn)自動彈性,處理能力隨著業(yè)務(wù)峰值自動伸縮。
針對使用了SSL/TLS加解密這種CPU密集型任務(wù)的應(yīng)用,通過應(yīng)用型負(fù)載均衡ALB(Application Load Balancer)和網(wǎng)絡(luò)型負(fù)載均衡NLB(Network Load Balancer)可以將由服務(wù)器處理的SSL/TLS加解密工作前置到負(fù)載均衡。當(dāng)負(fù)載均衡器中配置SSL/TLS卸載時,它將負(fù)責(zé)對來自客戶端和發(fā)送到客戶端的流量進(jìn)行加密,同時將未加密的流量交付到后端,從而釋放后端服務(wù)器的CPU資源,以改善客戶端的響應(yīng)時間,同時能夠提高證書管理工作的效率。另外,使用支持TCPSSL協(xié)議的NLB,可以在超高性能和大規(guī)模TLS卸載的場景下,進(jìn)一步優(yōu)化應(yīng)用系統(tǒng)的性能。
使用ALB時,啟用HTTP2.0協(xié)議,可以復(fù)用TCP連接有助于應(yīng)用系統(tǒng)提高響應(yīng)速度,并且減少HTTP頭部的冗余字段信息節(jié)省網(wǎng)絡(luò)流量。
負(fù)載均衡可以將流量分發(fā)至不同類型的后端服務(wù),包括ECS、ENI、ECI、函數(shù)計算、內(nèi)網(wǎng)IP地址。結(jié)合轉(zhuǎn)發(fā)ALB應(yīng)用轉(zhuǎn)發(fā)規(guī)則,可以根據(jù)不同的用戶請求參數(shù)(HTTP頭部參數(shù)、HTTP請求方法、URL路徑等)更加靈活的控制應(yīng)用系統(tǒng)的訪問流量。
其次,企業(yè)需要考慮應(yīng)用系統(tǒng)對時延的要求,如果對延遲敏感的應(yīng)用系統(tǒng),您可以決定使用NLB,它提供極低的延遲。另外,在設(shè)計負(fù)載均衡跨可用區(qū)高可用時,需要考慮應(yīng)用系統(tǒng)的時延敏感性。使用跨可用區(qū)高可用時,負(fù)載均衡會將流量分發(fā)至位于不同可用區(qū)的后端服務(wù),雖然提高了系統(tǒng)的可靠性,但是會增加一定的時延。
最后,ALB/NLB都提供了相應(yīng)的監(jiān)控信息和日志。通過監(jiān)控和日志您可以了解負(fù)載均衡的實時運行狀態(tài)。例如,您可以使用ALB訪問日志來查找哪些請求需要更長的時間才能得到響應(yīng),或者哪些后端服務(wù)導(dǎo)致了性能問題。