多終端節(jié)點(diǎn)組流量調(diào)配原理及應(yīng)用場(chǎng)景
全球加速支持為單個(gè)TCP和UDP協(xié)議的監(jiān)聽配置多個(gè)不同地域的終端節(jié)點(diǎn)組。您可以為終端節(jié)點(diǎn)組設(shè)置流量調(diào)配值，靈活控制轉(zhuǎn)發(fā)到各終端節(jié)點(diǎn)組的訪問流量比例，同時(shí)，您還可以為終端節(jié)點(diǎn)組開啟健康檢查，剔除異常的終端節(jié)點(diǎn)組。
多終端節(jié)點(diǎn)組流量調(diào)配原理
流量調(diào)配介紹
全球加速支持設(shè)置終端節(jié)點(diǎn)組流量調(diào)配，調(diào)整多個(gè)終端節(jié)點(diǎn)組的訪問流量比例，實(shí)現(xiàn)訪問流量的合理調(diào)配，為用戶提供更好的訪問體驗(yàn)。
流量調(diào)配：表示訪問流量的調(diào)配權(quán)重，取值范圍為0%~100%，默認(rèn)值為100%。0%表示忽略此終端節(jié)點(diǎn)組，不向該終端節(jié)點(diǎn)組轉(zhuǎn)發(fā)訪問流量，100%表示訪問流量全部轉(zhuǎn)發(fā)到此終端節(jié)點(diǎn)組。
調(diào)度優(yōu)先級(jí)：終端節(jié)點(diǎn)組最終實(shí)際的流量分配，不僅取決于設(shè)置的終端節(jié)點(diǎn)組流量調(diào)配，還依賴于終端節(jié)點(diǎn)組調(diào)度優(yōu)先級(jí)。全球加速基于網(wǎng)絡(luò)時(shí)延（主要依賴于地理位置和網(wǎng)絡(luò)鏈路情況）得出調(diào)度優(yōu)先級(jí)。一般來說，接入點(diǎn)到每個(gè)終端節(jié)點(diǎn)組地域的地理位置越近，網(wǎng)絡(luò)鏈路越短，調(diào)度優(yōu)先級(jí)越高。訪問流量會(huì)被優(yōu)先調(diào)度至離接入點(diǎn)最近的終端節(jié)點(diǎn)組。
為各終端節(jié)點(diǎn)組開啟了健康檢查后，若高優(yōu)先級(jí)的終端節(jié)點(diǎn)組健康檢查異常，訪問流量將全部轉(zhuǎn)發(fā)至次優(yōu)先級(jí)終端節(jié)點(diǎn)組，此時(shí)轉(zhuǎn)發(fā)權(quán)重與設(shè)置的流量調(diào)配值無關(guān)。
流量調(diào)配計(jì)算
您可以通過以下示例了解流量調(diào)配原理：
單加速地域?qū)?yīng)多終端節(jié)點(diǎn)組
假設(shè)某應(yīng)用的客戶端集中在北京地域，服務(wù)器部署在北京和上海地域，已通過全球加速添加了北京加速地域、北京地域終端節(jié)點(diǎn)組和上海地域終端節(jié)點(diǎn)組。現(xiàn)在需要按需分配北京和上海的訪問流量比例。
各終端節(jié)點(diǎn)組流量調(diào)配均設(shè)置為100%
序號(hào)
調(diào)度流程說明
①
客戶端訪問流量被就近調(diào)度到北京接入點(diǎn)，進(jìn)入阿里云加速網(wǎng)絡(luò)。
②
監(jiān)聽根據(jù)配置的協(xié)議與端口檢查客戶端的連接請(qǐng)求，并根據(jù)各個(gè)終端節(jié)點(diǎn)組的調(diào)度優(yōu)先級(jí)與設(shè)置的流量調(diào)配值選擇接收請(qǐng)求的終端節(jié)點(diǎn)組。
③
北京終端節(jié)點(diǎn)組優(yōu)先級(jí)高于上海終端節(jié)點(diǎn)組，健康檢查正常且流量調(diào)配為100%，訪問流量全部被轉(zhuǎn)發(fā)到北京終端節(jié)點(diǎn)組。
④
客戶端請(qǐng)求由北京的服務(wù)器處理。
⑤
當(dāng)北京終端節(jié)點(diǎn)組健康檢查異常時(shí)，次優(yōu)先級(jí)的上海終端節(jié)點(diǎn)組健康檢查正常，那么監(jiān)聽會(huì)將流量全部轉(zhuǎn)發(fā)到上海終端節(jié)點(diǎn)組。
⑥
客戶端請(qǐng)求由上海的服務(wù)器處理。
北京終端節(jié)點(diǎn)組流量調(diào)配調(diào)整為50%（您也可以按需調(diào)整為其他值），上海終端節(jié)點(diǎn)組為100%
與流量調(diào)配為100%時(shí)的調(diào)度流程類似，北京客戶端訪問流量會(huì)被優(yōu)先轉(zhuǎn)發(fā)到北京終端節(jié)點(diǎn)組。根據(jù)流量調(diào)配50%，將前50%的訪問流量轉(zhuǎn)發(fā)至北京終端節(jié)點(diǎn)組處理，剩余50%將被轉(zhuǎn)發(fā)至上海終端節(jié)點(diǎn)組。同樣，若流量調(diào)配為30%時(shí)，將前30%的訪問流量轉(zhuǎn)發(fā)至北京終端節(jié)點(diǎn)組，剩余70%將被轉(zhuǎn)發(fā)至上海終端節(jié)點(diǎn)組。
同時(shí)，上海終端節(jié)點(diǎn)組的流量調(diào)配為100%，則剩余訪問流量（如上剩余50%或70%）將全部由上海終端節(jié)點(diǎn)組接收。
各終端節(jié)點(diǎn)組流量調(diào)配均設(shè)置為50%（您也可以按需調(diào)整為其他值）
序號(hào)
調(diào)度流程說明
①
客戶端訪問流量被就近調(diào)度到北京接入點(diǎn)，進(jìn)入阿里云加速網(wǎng)絡(luò)。
②
監(jiān)聽根據(jù)配置的協(xié)議與端口檢查客戶端的連接請(qǐng)求，并根據(jù)各個(gè)終端節(jié)點(diǎn)組的調(diào)度優(yōu)先級(jí)與設(shè)置的流量調(diào)配值選擇接收請(qǐng)求的終端節(jié)點(diǎn)組。
③
北京終端節(jié)點(diǎn)組優(yōu)先級(jí)高于上海終端節(jié)點(diǎn)組，健康檢查正常且流量調(diào)配為50%，訪問流量50%轉(zhuǎn)發(fā)到北京終端節(jié)點(diǎn)組。
④
北京服務(wù)器處理訪問流量的50%。
⑤
剩余50%被轉(zhuǎn)至次優(yōu)先級(jí)的上海終端節(jié)點(diǎn)組，根據(jù)上海終端節(jié)點(diǎn)組流量調(diào)配50%，則上海終端節(jié)點(diǎn)組接收剩余流量的50%，即50%×50%=25%。
此時(shí)，北京終端節(jié)點(diǎn)組接收50%，上海終端節(jié)點(diǎn)組接收25%，還有25%訪問流量未被接收。
⑥
對(duì)客戶端訪問流量剩余未被接收部分進(jìn)行二次調(diào)度，二次調(diào)度方式為剩余未被接收部分在每個(gè)終端節(jié)點(diǎn)組平均分配。
剩余未被接收的25%訪問流量平均分配至各終端節(jié)點(diǎn)組，即北京和上海終端節(jié)點(diǎn)組各接收12.5%。
⑦
北京的服務(wù)器處理二次調(diào)度的12.5%的訪問流量。 北京的服務(wù)器總共處理62.5%的訪問流量，即50%+12.5%=62.5%。
⑧
上海的服務(wù)器處理37.5%的訪問流量，即25%+12.5%=37.5%。
多加速地域?qū)?yīng)多終端節(jié)點(diǎn)組
當(dāng)客戶端分布在多個(gè)地域，即有多個(gè)加速地域時(shí)，客戶端的訪問流量通過加速IP從就近接入點(diǎn)進(jìn)入阿里云加速網(wǎng)絡(luò)，再根據(jù)調(diào)度優(yōu)先級(jí)調(diào)度至離接入點(diǎn)最近的終端節(jié)點(diǎn)組。
各終端節(jié)點(diǎn)組流量調(diào)配均設(shè)置為100%
序號(hào)
調(diào)度流程說明
①
北京和上海客戶端的訪問流量分別被就近調(diào)度到北京和上海接入點(diǎn)，進(jìn)入阿里云加速網(wǎng)絡(luò)。
②
監(jiān)聽根據(jù)配置的協(xié)議與端口檢查客戶端的連接請(qǐng)求，并根據(jù)各個(gè)終端節(jié)點(diǎn)組的調(diào)度優(yōu)先級(jí)與設(shè)置的流量調(diào)配值選擇接收請(qǐng)求的終端節(jié)點(diǎn)組。
③
根據(jù)流量調(diào)配值，對(duì)各地域客戶端訪問流量進(jìn)行調(diào)度。
北京客戶端訪問流量調(diào)度情況
北京終端節(jié)點(diǎn)組優(yōu)先級(jí)高于上海終端節(jié)點(diǎn)組，健康檢查正常且流量調(diào)配為100%，北京客戶端的訪問流量全部被轉(zhuǎn)發(fā)到北京終端節(jié)點(diǎn)組。
上海客戶端訪問流量調(diào)度情況
上海終端節(jié)點(diǎn)組優(yōu)先級(jí)高于北京終端節(jié)點(diǎn)組，健康檢查正常且流量調(diào)配為100%，上海客戶端的訪問流量全部被轉(zhuǎn)發(fā)到上海終端節(jié)點(diǎn)組。
④
上海和北京的服務(wù)器分別處理各自接收到的訪問流量。
北京終端節(jié)點(diǎn)組流量調(diào)配調(diào)整為50%（您也可以按需調(diào)整為其他值），上海終端節(jié)點(diǎn)組為100%
與流量調(diào)配為100%時(shí)的調(diào)度流程類似，北京客戶端訪問流量會(huì)被優(yōu)先轉(zhuǎn)發(fā)到北京終端節(jié)點(diǎn)組。根據(jù)流量調(diào)配50%，將前50%的訪問流量轉(zhuǎn)發(fā)至北京終端節(jié)點(diǎn)組，剩余50%將被轉(zhuǎn)發(fā)至上海終端節(jié)點(diǎn)組。同樣，若流量調(diào)配為30%時(shí)，將前30%的訪問流量轉(zhuǎn)發(fā)至北京終端節(jié)點(diǎn)組，剩余70%將被轉(zhuǎn)發(fā)至上海終端節(jié)點(diǎn)組。
上海客戶端訪問流量會(huì)被優(yōu)先轉(zhuǎn)發(fā)到上海終端節(jié)點(diǎn)組，根據(jù)上海終端節(jié)點(diǎn)組流量調(diào)配100%，上海客戶端訪問流量全部被上海終端節(jié)點(diǎn)組接收。
最終，北京終端節(jié)點(diǎn)組接收50%的北京客戶端訪問流量，上海終端節(jié)點(diǎn)組接收100%上海客戶端訪問流量和北京客戶端剩余50%的訪問流量。
各終端節(jié)點(diǎn)組流量調(diào)配均設(shè)置為50%（您也可以按需調(diào)整為其他值）
序號(hào)
調(diào)度流程說明
①
北京和上海客戶端的訪問流量分別被就近調(diào)度到北京和上海接入點(diǎn)，進(jìn)入阿里云加速網(wǎng)絡(luò)。
②
監(jiān)聽根據(jù)配置的協(xié)議與端口檢查客戶端的連接請(qǐng)求，并根據(jù)各個(gè)終端節(jié)點(diǎn)組的調(diào)度優(yōu)先級(jí)與設(shè)置的流量調(diào)配值選擇接收請(qǐng)求的終端節(jié)點(diǎn)組。
③
根據(jù)流量調(diào)配值，對(duì)各地域客戶端訪問流量進(jìn)行首次調(diào)度。
北京客戶端訪問流量調(diào)度情況
北京終端節(jié)點(diǎn)組優(yōu)先級(jí)高于上海終端節(jié)點(diǎn)組，健康檢查正常且流量調(diào)配為50%，訪問流量50%轉(zhuǎn)發(fā)到北京終端節(jié)點(diǎn)組，剩余50%轉(zhuǎn)發(fā)至上海終端節(jié)點(diǎn)組。根據(jù)上海終端節(jié)點(diǎn)組流量調(diào)配50%，則上海終端節(jié)點(diǎn)組接收北京剩余流量的50%，即50%×50%=25%。此時(shí)，北京剩余25%（100%-50%-25%）訪問流量未被接收。
上海客戶端訪問流量調(diào)度情況
上海終端節(jié)點(diǎn)組優(yōu)先級(jí)高于北京終端節(jié)點(diǎn)組，健康檢查正常且流量調(diào)配為50%，訪問流量50%轉(zhuǎn)發(fā)到上海終端節(jié)點(diǎn)組，剩余50%轉(zhuǎn)發(fā)至北京終端節(jié)點(diǎn)組。根據(jù)北京終端節(jié)點(diǎn)組流量調(diào)配50%，則北京終端節(jié)點(diǎn)組接收上海剩余流量的50%，即50%×50%=25%。此時(shí)，上海剩余25%（100%-50%-25%）訪問流量未被接收。
④
對(duì)各地域客戶端訪問流量剩余未被接收部分進(jìn)行二次調(diào)度，二次調(diào)度方式為剩余未被接收部分在每個(gè)終端節(jié)點(diǎn)組平均分配。
北京剩余未被接收的25%訪問流量平均分配到北京終端節(jié)點(diǎn)組和上海終端節(jié)點(diǎn)組，即各終端節(jié)點(diǎn)組分別接收12.5%。同樣，上海剩余未被接收的25%訪問流量，各終端節(jié)點(diǎn)組也分別接收12.5%。
⑤
上海和北京的服務(wù)器分別處理各自接收到的訪問流量。
應(yīng)用場(chǎng)景
應(yīng)用場(chǎng)景概覽
場(chǎng)景 | 說明 |
針對(duì)原有的服務(wù)器不滿足現(xiàn)有應(yīng)用需求或部分地域用戶群體驗(yàn)不佳時(shí)，例如不同的用戶群共用一個(gè)加速區(qū)域，或多個(gè)加速區(qū)域共用一個(gè)終端節(jié)點(diǎn)組，需要在新地域上線服務(wù)。 | |
針對(duì)單地域部署服務(wù)造成的傳輸線路流量過大或者服務(wù)器負(fù)載過高問題，可考慮將服務(wù)部署在不同地域，將不同地域的后端服務(wù)分別配置為終端節(jié)點(diǎn)組，再通過流量調(diào)配功能調(diào)整不同地域訪問流量的分配比例，來降低單一地域的訪問壓力。 | |
對(duì)服務(wù)連續(xù)性和可靠性有一定要求時(shí)，可跨地域部署服務(wù)，將不同地域的后端服務(wù)分別配置為終端節(jié)點(diǎn)組并開啟健康檢查功能。當(dāng)某個(gè)地域服務(wù)出現(xiàn)異常時(shí)，可將訪問流量轉(zhuǎn)發(fā)至正常地域，實(shí)現(xiàn)容災(zāi)需求。 | |
針對(duì)地域級(jí)業(yè)務(wù)調(diào)整，例如需要平滑下線訪問量較小的某地域服務(wù)或升級(jí)某地域服務(wù)，可通過終端節(jié)點(diǎn)組的流量調(diào)配功能將此地域訪問流量進(jìn)行靈活遷移。 |
服務(wù)多地域部署
當(dāng)業(yè)務(wù)擴(kuò)展，原有的服務(wù)器不滿足現(xiàn)有應(yīng)用的需求或部分地域用戶體驗(yàn)不佳時(shí)，需要在新的地域部署該服務(wù)。您可以通過為全球加速新增終端節(jié)點(diǎn)組或加速地域，來提升用戶訪問體驗(yàn)。
新增終端節(jié)點(diǎn)組，提升服務(wù)處理能力
以下圖場(chǎng)景為例。某應(yīng)用部署在北京地域，原有的北京和上海客戶端分別由北京和上海接入點(diǎn)接入，訪問請(qǐng)求均由北京終端節(jié)點(diǎn)組的服務(wù)器進(jìn)行處理。隨著用戶量增大，服務(wù)器負(fù)載越來越高。
您可以增加上海終端節(jié)點(diǎn)組，將上海客戶端的訪問流量遷移到上海終端節(jié)點(diǎn)組的服務(wù)器中，實(shí)現(xiàn)應(yīng)用服務(wù)能力提升。實(shí)現(xiàn)步驟如下：
在上海地域部署服務(wù)器。
在全球加速對(duì)應(yīng)監(jiān)聽中添加上海地域終端節(jié)點(diǎn)組。具體操作，請(qǐng)參見添加默認(rèn)終端節(jié)點(diǎn)組。
添加上海終端節(jié)點(diǎn)組時(shí)，可先將流量調(diào)配配置為一個(gè)較小的值，例如1%，以進(jìn)行調(diào)試。
調(diào)試驗(yàn)證上海客戶端訪問流量轉(zhuǎn)發(fā)情況。
此時(shí)，北京客戶端的訪問流量繼續(xù)由北京終端節(jié)點(diǎn)組的服務(wù)器處理，上海客戶端訪問流量中1%由上海終端節(jié)點(diǎn)組的服務(wù)器處理，剩余99%轉(zhuǎn)發(fā)至北京終端節(jié)點(diǎn)組的服務(wù)器處理。
調(diào)試成功后，修改上海地域終端節(jié)點(diǎn)組的流量調(diào)配為100%。
上海客戶端的訪問流量完全遷移到上海終端節(jié)點(diǎn)組的服務(wù)器中，北京終端節(jié)點(diǎn)組的服務(wù)器不再處理上海客戶端的訪問請(qǐng)求。具體操作，請(qǐng)參見設(shè)置終端節(jié)點(diǎn)組流量調(diào)配。
新增加速地域，提升用戶訪問體驗(yàn)
以下圖場(chǎng)景為例。假設(shè)某應(yīng)用部署在北京，客戶端集中在北京和上海地域，均通過北京接入點(diǎn)接入全球加速網(wǎng)絡(luò)，所有訪問請(qǐng)求均由北京終端節(jié)點(diǎn)組的服務(wù)器處理。上海客戶端經(jīng)常出現(xiàn)延遲、抖動(dòng)等網(wǎng)絡(luò)問題。
您可以在上海地域部署該服務(wù)，為全球加速實(shí)例添加上海加速地域和上海地域的終端節(jié)點(diǎn)組。上海客戶端的訪問請(qǐng)求將就近接入上海接入點(diǎn)，經(jīng)監(jiān)聽檢查處理后轉(zhuǎn)發(fā)至離上海接入點(diǎn)較近的上海終端節(jié)點(diǎn)組。最終實(shí)現(xiàn)上海客戶端訪問體驗(yàn)的提升。具體操作，請(qǐng)參見添加和管理加速區(qū)域和添加默認(rèn)終端節(jié)點(diǎn)組。
訪問流量多地域負(fù)載
您可以通過流量調(diào)配功能將某個(gè)加速地域的訪問流量分配至多個(gè)不同地域的終端節(jié)點(diǎn)組，從而降低該加速地域?qū)?yīng)終端節(jié)點(diǎn)組服務(wù)器的負(fù)載。
如下圖場(chǎng)景所示。假設(shè)某應(yīng)用部署在北京和上海，客戶端主要集中在北京地域。已通過全球加速添加了北京加速地域、北京地域終端節(jié)點(diǎn)組和上海地域終端節(jié)點(diǎn)組，全球加速默認(rèn)將北京客戶端的訪問流量全部就近轉(zhuǎn)發(fā)至北京終端節(jié)點(diǎn)組的服務(wù)器進(jìn)行處理。由于北京訪問流量較大，導(dǎo)致北京地域終端節(jié)點(diǎn)組的服務(wù)器負(fù)載過大，客戶端訪問出現(xiàn)卡頓、丟包等情況。
您可以根據(jù)需求調(diào)整北京和上海地域終端節(jié)點(diǎn)組的流量調(diào)配值，例如將北京終端節(jié)點(diǎn)組的默認(rèn)流量調(diào)配值100%修改為50%，此時(shí)，北京客戶端的50%訪問流量由北京終端節(jié)點(diǎn)組的服務(wù)器處理，剩余50%訪問流量轉(zhuǎn)發(fā)至上海終端節(jié)點(diǎn)組的服務(wù)器處理，實(shí)現(xiàn)北京地域訪問流量的合理分配，降低北京終端節(jié)點(diǎn)組中服務(wù)器的壓力。修改終端節(jié)點(diǎn)組流量調(diào)配，請(qǐng)參見設(shè)置終端節(jié)點(diǎn)組流量調(diào)配。
服務(wù)跨地域容災(zāi)
您可以通過在全球加速中添加多個(gè)不同地域的終端節(jié)點(diǎn)組，并為多個(gè)終端節(jié)點(diǎn)組開啟健康檢查，實(shí)現(xiàn)服務(wù)跨地域容災(zāi)。
如下圖場(chǎng)景所示，假設(shè)某應(yīng)用部署在北京和上海，已通過全球加速在上海和北京地域分別添加了對(duì)應(yīng)的加速地域和終端節(jié)點(diǎn)組。正常情況下，北京和上海客戶端的訪問請(qǐng)求會(huì)被就近接入對(duì)應(yīng)的加速地域，通過監(jiān)聽檢查處理，再根據(jù)流量調(diào)配值和調(diào)度優(yōu)先級(jí)分別轉(zhuǎn)發(fā)至對(duì)應(yīng)的終端節(jié)點(diǎn)組。為保證應(yīng)用能持續(xù)穩(wěn)定的對(duì)外提供服務(wù)，要求北京或上海其中任意一個(gè)地域的應(yīng)用出現(xiàn)異常時(shí)，可將異常地域的訪問流量自動(dòng)切換至另一個(gè)運(yùn)行正常的地域。
您可以分別為北京和上海地域的終端節(jié)點(diǎn)組開啟健康檢查，當(dāng)上海地域終端節(jié)點(diǎn)組健康檢查出現(xiàn)異常時(shí)，監(jiān)聽會(huì)自動(dòng)將訪問流量調(diào)度至健康檢查正常的北京地域終端節(jié)點(diǎn)組；而當(dāng)上海地域終端節(jié)點(diǎn)組恢復(fù)正常后，監(jiān)聽會(huì)自動(dòng)恢復(fù)上海客戶端的流量調(diào)配，將上海客戶端的訪問流量全部調(diào)度至上海地域終端節(jié)點(diǎn)組。健康檢查的配置，請(qǐng)參見開啟和管理健康檢查。
按地域下線或升級(jí)服務(wù)
您可以通過流量調(diào)配功能，實(shí)現(xiàn)服務(wù)按地域下線或升級(jí)，降低對(duì)客戶端訪問的影響。
以下圖場(chǎng)景為例。假設(shè)某公司業(yè)務(wù)部署在北京和上海地域，已通過全球加速在上海和北京地域分別添加了對(duì)應(yīng)的加速地域和終端節(jié)點(diǎn)組。現(xiàn)位于上海的服務(wù)因訪問量較小，需要暫時(shí)下線，要求下線過程中，不會(huì)影響上海客戶端的正常訪問。
您可以先將上海地域終端節(jié)點(diǎn)組的流量調(diào)配配置為較小的值，例如1%，將剩余99%的訪問流量切換至北京地域的終端節(jié)點(diǎn)組。待上海地域訪問請(qǐng)求量降低至您預(yù)期的可下線狀態(tài)后，再將流量調(diào)配配置為0%，此時(shí)您可以下線部署在上海地域的服務(wù)。
同樣，當(dāng)需要升級(jí)上海服務(wù)時(shí)，可以先按照上述下線過程調(diào)整流量調(diào)配值，當(dāng)流量調(diào)配值為0%時(shí)，上海的客戶端訪問流量全部被調(diào)度至北京終端節(jié)點(diǎn)組。升級(jí)完成后，再將上海地域終端節(jié)點(diǎn)組流量調(diào)配配置為100% ，從而恢復(fù)上海客戶端的流量調(diào)度。