日本熟妇hd丰满老熟妇,中文字幕一区二区三区在线不卡 ,亚洲成片在线观看,免费女同在线一区二区

AI 助理
備案控制臺
文檔
輸入文檔關鍵字查找
首頁 服務網格 操作指南 流量管理 分布式系統的高可用能力構建 熔斷降級 使用ASMCircuitBreaker為服務間調用流量配置熔斷規則

使用ASMCircuitBreaker為服務間調用流量配置熔斷規則

更新時間：
產品詳情
我的收藏

服務網格 ASM（Service Mesh）支持為特定服務之間和特定路由上的東西向調用流量配置熔斷規則，通過配置使網格代理主動拒絕出現故障上游服務的請求，實現無侵入式的流量熔斷能力。本文介紹如何使用ASMCircuitBreaker CRD為東西向調用流量配置熔斷規則。

背景信息

流量熔斷是一種過載保護機制，主要用于防止系統因為短時間內過大的流量而崩潰。在云原生服務之間存在東西向調用流量的情況下，如果某個服務發生故障（例如：響應過慢或者失敗率升高），可能會導致該服務所在調用鏈路上的一系列服務也發生連鎖崩潰。

通過為服務間的東西向調用流量配置熔斷規則，可以實現當流量失敗率或響應超時次數達到閾值時，主動“切斷”來自上游服務的請求。在保護上游服務的同時，也有效防止故障在整個調用鏈路中擴散，造成整個系統雪崩。

配置熔斷規則后，每個網格代理將基于其代理的請求分別計算流量失敗率或響應超時次數。因此，對于同一個發生故障的上游服務、客戶端網格代理發生熔斷的時機可能略有不同。

前提條件

步驟一：為服務調用的東西向調用流量配置請求路徑路由

  1. 登錄ASM控制臺，在左側導航欄，選擇服務網格 > 網格管理。

  2. 選擇下方兩種方式的任意一種配置虛擬服務。

    控制臺手動創建

    1. 在網格管理頁面，單擊目標實例名稱，然后在左側導航欄，選擇流量管理中心 > 虛擬服務，然后單擊創建。

    2. 填寫命名空間和服務名稱，打開作用范圍>作用于所有Sidecar。

    3. 在所屬服務框中單擊添加所屬服務，添加httpbin服務。

    4. 配置HTTP路由>添加路由，信息填寫請參見下圖紅框標注。

    image

    image

    image

    使用YAML創建

    1. 在網格管理頁面，單擊目標實例名稱，然后在左側導航欄，選擇流量管理中心 > 虛擬服務，然后單擊使用YAML創建。

    2. 在YAML輸入框中輸入如下內容，點擊創建。

      展開查看YAML詳細內容

      apiVersion: networking.istio.io/v1beta1
kind: VirtualService
metadata:
  name: httpbin
  namespace: default
spec:
  hosts:
    - httpbin.default.svc.cluster.local
  http:
    - match:
        - uri:
            exact: /status/500
      name: error-route
      route:
        - destination: 
            host: httpbin.default.svc.cluster.local
    - match:
        - uri:
            prefix: /delay
      name: delay-route
      route:
        - destination:
            host: httpbin.default.svc.cluster.local
    - name: default-route
      route:
        - destination:
            host: httpbin.default.svc.cluster.local

    下表為請求與路徑的對應關系以及具體說明。

    請求路徑

    匹配類型

    路由項

    說明

    /status/500

    精確匹配

    error-route

    固定響應500狀態碼。

    /delay

    前綴匹配

    delay-route

    指定的時間后響應200狀態碼；/delay請求的具體使用方法參見delay。

    /*

    任意路徑

    default-route

    默認路由項。

步驟二：配置熔斷

本節將分別介紹錯誤率熔斷和慢請求熔斷的具體配置步驟以及測試結果。

基于錯誤率熔斷

基于錯誤率的熔斷是指在給定的時間窗口內檢測服務器響應的錯誤率，并在錯誤率超過一定閾值時觸發熔斷。

  1. 登錄ASM控制臺，在左側導航欄，選擇服務網格 > 網格管理。

  2. 在網格管理頁面，單擊目標實例名稱，然后在左側導航欄，選擇流量管理中心 > 熔斷降級。

  3. 在創建頁面，在YAML輸入框處輸入以下內容，然后單擊創建。

    展開查看YAML詳細信息

    apiVersion: istio.alibabacloud.com/v1beta1
kind: ASMCircuitBreaker
metadata:
  name: httpbin-error-circuitbreak
  namespace: default
spec:
  configs:
    - breaker_config:
        break_duration: 60s
        custom_response:
          body: error break!
          header_to_add:
            x-envoy-overload: 'true'
          status_code: 499
        error_percent:
          value: 60
        min_request_amount: 5
        window_size: 10s
      match:
        vhost:
          name: httpbin.default.svc.cluster.local
          port: 8000
          route:
            name_match: error-route
  workloadSelector:
    labels:
      app: sleep

    熔斷配置中使用的參數說明如下：

    參數

    說明

    workloadSelector.labels

    熔斷配置的下游服務工作負載，在本例中是sleep服務，因此用app: sleep標簽選中該工作負載。

    break_duration

    熔斷發生后到恢復對服務訪問之間的時長。本例中配置為60s。

    window_size

    進行熔斷檢測的時間窗口。本例中配置為10s，代表在10秒內若路由中的請求錯誤率超過指定閾值，則開始熔斷，拒絕請求。

    error_percent

    在時間窗口內，判斷是否達到熔斷所需的請求錯誤率。本例中配置為60，代表在時間窗口的10s內若路由中的請求錯誤率超過60%，則發生熔斷，拒絕請求。

    min_request_amount

    時間窗口內觸發熔斷所需的最小請求數。配置該參數的目的是防止因請求量過小而誤判觸發熔斷。

    本例中配置為5，代表在時間窗口的10s內若路由已經發送了5次以上請求，且錯誤率超過60%時，才發生熔斷。

    custom_response

    熔斷發生時，網格代理拒絕請求時返回的自定義響應內容。

    • body配置為error break!，代表響應體為error break!

    • header_to_add配置為x-envoy-overload: 'true'，代表熔斷的響應頭中將添加x-envoy-overload: 'true'

    • status_code配置為499，代表熔斷后請求的響應碼為499。

    match.vhost

    熔斷的路由條目配置，該路由條目必須與虛擬服務中聲明的具體路由條目匹配。

    • name：需要配置為調用鏈路中的上游服務服務域名。在本例中，配置為sleep服務的上游服務httpbin服務的域名httpbin.default.svc.cluster.local。

    • port：需要配置為上游服務的Service端口。在本例中，配置為httpbin服務的Service端口8000。

    • route.name_match：需要配置為虛擬服務中實際的路由項名稱，熔斷配置將在該段路由中生效。在本例中，配置為步驟二中編寫的路由項error-route，此路由項對應的請求將固定響應500狀態碼，確保能夠觸發熔斷。

  4. 使用kubectl連接ACK集群，執行以下命令。

    for i in {1..100};  do kubectl exec -it deploy/sleep -- curl httpbin:8000/status/500 -I | grep 'HTTP';  echo ''; sleep 0.1; done;

    預期輸出：

    展開查看詳細信息

    HTTP/1.1 500 Internal Server Error

HTTP/1.1 500 Internal Server Error

HTTP/1.1 500 Internal Server Error

HTTP/1.1 500 Internal Server Error

HTTP/1.1 500 Internal Server Error

HTTP/1.1 499 Unknown

HTTP/1.1 499 Unknown

HTTP/1.1 499 Unknown

HTTP/1.1 499 Unknown

HTTP/1.1 499 Unknown

HTTP/1.1 499 Unknown

HTTP/1.1 499 Unknown

...

    可以看到，當發送第6條請求時，熔斷被觸發，可以觀察到后續請求都返回自定義的499響應碼，熔斷將持續60s。

  5. 在熔斷期間，可以嘗試對httpbin服務的其他路徑進行訪問。

    for i in {1..100};  do kubectl exec -it deploy/sleep -- curl httpbin:8000/status/503 -I | grep 'HTTP';  echo ''; sleep 0.1; done;

    預期輸出：

    展開查看詳細信息

    HTTP/1.1 503 Service Unavailable

HTTP/1.1 503 Service Unavailable

HTTP/1.1 503 Service Unavailable

HTTP/1.1 503 Service Unavailable

HTTP/1.1 503 Service Unavailable

HTTP/1.1 503 Service Unavailable

HTTP/1.1 503 Service Unavailable

HTTP/1.1 503 Service Unavailable

HTTP/1.1 503 Service Unavailable

HTTP/1.1 503 Service Unavailable

...

    可以看到發往服務其他路徑的請求并不受error-route路由項上的熔斷配置影響，仍然可以正常返回httpbin服務的響應內容。

基于慢請求熔斷

基于慢請求數的熔斷是指檢測在給定的時間窗口內響應時間超過給定閾值的請求數量（這種請求被稱作慢請求），并在慢請求數量超過一定閾值時觸發熔斷。

  1. 登錄ASM控制臺，在左側導航欄，選擇服務網格 > 網格管理。

  2. 在網格管理頁面，單擊目標實例名稱，然后在左側導航欄，選擇流量管理中心 > 熔斷降級。

  3. 在創建頁面，在YAML輸入框中輸入以下內容，然后單擊創建。

    展開查看YAML詳細信息

    apiVersion: istio.alibabacloud.com/v1beta1
kind: ASMCircuitBreaker
metadata:
  name: httpbin-error-circuitbreak
  namespace: default
spec:
  configs:
    - breaker_config:
        break_duration: 60s
        custom_response:
          body: error break!
          header_to_add:
            x-envoy-overload: 'true'
          status_code: 499
        error_percent:
          value: 60
        min_request_amount: 5
        window_size: 10s
      match:
        vhost:
          name: httpbin.default.svc.cluster.local
          port: 8000
          route:
            name_match: error-route
  workloadSelector:
    labels:
      app: sleep

    熔斷配置中使用的參數說明如下：

    參數

    說明

    workloadSelector.labels

    熔斷配置的下游服務工作負載，在本例中是sleep服務，因此用app: sleep標簽選中該工作負載。

    break_duration

    熔斷發生后到恢復對服務訪問之間的時長。本例中配置為60s。

    window_size

    進行熔斷檢測的時間窗口。本例中配置為10s，代表在10秒內若路由中慢請求數量超過指定閾值，則發生熔斷，拒絕請求。

    slow_request_rt

    慢請求的判斷基準響應時間。本例中配置為0.5s，代表響應時間超過0.5s的請求將被視作慢請求。

    max_slow_requests

    時間窗口內觸發熔斷所需的慢請求數量。本例中配置為5，代表時間窗口的10s內若出現了超過5次慢請求，則發生熔斷，拒絕請求。

    min_request_amount

    時間窗口內觸發熔斷所需的最小請求數量。配置該參數的目的是防止因請求量過小而被誤判觸發熔斷。

    本例中配置為5，代表在時間窗口的10s內若路由上已經發送了5次以上請求、且慢請求數超過5時，才會發生熔斷。

    custom_response

    熔斷發生時，網格代理拒絕請求時返回的自定義響應內容。

    • body配置為delay break!，代表響應體為delay break!

    • header_to_add配置為x-envoy-overload: 'true'，代表熔斷的響應頭中將添加x-envoy-overload: 'true'

    • status_code配置為498，代表熔斷后請求的響應碼為498。

    match.vhost

    熔斷的路由條目配置，該路由條目必須與虛擬服務中聲明的具體路由條目匹配。

    • name：需要配置為調用鏈路中上游服務的服務域名。在本例中，配置為sleep服務的上游服務httpbin服務的域名httpbin.default.svc.cluster.local。

    • port：需要配置為上游服務的Service端口。在本例中，配置為httpbin服務的Service端口8000。

    • route.name_match：需要配置為虛擬服務中實際配置的路由項名稱，熔斷配置將在該段路由中生效。在本例中，配置為步驟二中編寫的路由項delay-route，此路由項對應的請求能夠以人工方式指定超過0.5秒響應，確保能夠觸發熔斷。

  4. 使用kubectl連接ACK集群，執行以下命令。

    for i in {1..100};  do kubectl exec -it deploy/sleep -- curl httpbin:8000/delay/1 -I | grep 'HTTP';  echo ''; sleep 0.1; done;

    預期輸出：

    展開查看詳細信息

    HTTP/1.1 200 OK

HTTP/1.1 200 OK

HTTP/1.1 200 OK

HTTP/1.1 200 OK

HTTP/1.1 200 OK

HTTP/1.1 498 Unknown

HTTP/1.1 498 Unknown

HTTP/1.1 498 Unknown

HTTP/1.1 498 Unknown

HTTP/1.1 498 Unknown

HTTP/1.1 498 Unknown

HTTP/1.1 498 Unknown

HTTP/1.1 498 Unknown

...

    可以看到，當發送第6次請求時，熔斷被觸發。可以觀察到后續的請求都返回了自定義498響應碼，熔斷將持續60s。

  5. 在熔斷觸發期間，可以執行以下命令對步驟三中配置的基于錯誤率的熔斷進行測試。

    for i in {1..100};  do kubectl exec -it deploy/sleep -- curl httpbin:8000/status/500 -I | grep 'HTTP';  echo ''; sleep 0.1; done;

    預期輸出：

    展開查看詳細信息

    HTTP/1.1 500 Internal Server Error

HTTP/1.1 500 Internal Server Error

HTTP/1.1 500 Internal Server Error

HTTP/1.1 500 Internal Server Error

HTTP/1.1 500 Internal Server Error

HTTP/1.1 499 Unknown

HTTP/1.1 499 Unknown

HTTP/1.1 499 Unknown

HTTP/1.1 499 Unknown

HTTP/1.1 499 Unknown

HTTP/1.1 499 Unknown

HTTP/1.1 499 Unknown

...

    上述輸出說明在不同路由項上配置的熔斷規則彼此之間互不影響，您可以靈活地針對服務之間不同特征的東西向調用流量配置各自的熔斷規則，靈活地實現流量熔斷策略。

相關操作

查看服務級熔斷相關指標

在1.22.6.28及以上的ASM版本中，您可以查看和使用ASMCircuitBreaker的服務級熔斷相關指標。

指標

指標類型

描述

envoy_asm_circuit_breaker_total_broken_requests

Counter

被ASMCircuitBreaker熔斷的請求總數。

您可以通過配置Sidecar代理的proxyStatsMatcher來上報相關指標。

  1. 在配置proxyStatsMatcher時，選中正則匹配，配置為.*circuit_breaker.*。具體操作，請參見proxyStatsMatcher。

  2. 重新部署httpbin應用，使新的代理配置生效。具體操作，請參見重新部署工作負載。

  3. 再次執行步驟一和步驟二，重新配置流量熔斷。

  4. 執行以下命令，查看httpbin服務的服務級熔斷相關指標。

    kubectl exec -it deploy/httpbin -c istio-proxy -- curl localhost:15090/stats/prometheus|grep asm_circuit_breaker

    預期輸出：

    # TYPE envoy_asm_circuit_breaker_total_broken_requests counter
envoy_asm_circuit_breaker_total_broken_requests{cluster="outbound|8000||httpbin.default.svc.cluster.local",uuid="af7cf7ad-67e8-49c5-b5fe-xxxxxxxxx"} 1430
# TYPE envoy_total_asm_circuit_breakers gauge
envoy_total_asm_circuit_breakers{} 1

配置服務級熔斷指標采集及告警

配置完成上報服務級熔斷指標后，您可以配置采集相關指標到Prometheus，并基于關鍵指標配置告警規則，實現熔斷發生時的及時告警。以下以可觀測監控Prometheus版為例說明如何配置服務級熔斷指標采集和告警。

  1. 在可觀測監控Prometheus版中，為數據面集群接入阿里云ASM組件或升級至最新版，以保證可觀測監控Prometheus版可以采集到暴露的熔斷指標。關于接入組件的具體操作，請參見接入組件管理。（如果您已經集成自建Prometheus實現網格監控來采集服務網格指標，則無需做額外操作。）

  2. 創建針對服務級熔斷的告警規則。具體操作，請參見通過自定義PromQL創建Prometheus告警規則。配置告警規則的關鍵參數的填寫示例如下，其余參數可參考上述文檔根據實際需求填寫。

    參數

    示例

    說明

    自定義PromQL語句

    (sum by(cluster, namespace) (increase(envoy_asm_circuit_breaker_total_broken_requests[1m]))) > 0

    查詢最近1分鐘之內熔斷的請求數量，并根據觸發熔斷的服務所在命名空間以及服務名稱進行分組。當1分鐘內被熔斷的請求數量大于0時觸發告警。

    告警內容

    發生服務級熔斷！命名空間：{{$labels.namespace}}，發生熔斷的目標服務：{{$labels.cluster}}。當前1分鐘內熔斷的請求數量：{{ $value }}

    展示了觸發熔斷的服務所在命名空間以及服務名稱，以及最近1分鐘內發往該服務被熔斷的請求數量的告警信息格式。