本文主要介紹QPS相關信息。
使用阿里云視覺智能開放平臺服務時,大部分能力都會限制QPS,具體的QPS限制和每個能力的付費方式有關,您可以在視覺智能開放平臺控制臺查看每個能力的QPS閾值。更多有關QPS的常見問題,請參見計費定價類。
什么是QPS
QPS(Query Per Second)是指,每秒鐘請求或任務的數量,即QPS=并發數/平均響應時間。其中并發數是指,系統同時處理的請求或任務的數量。例如,人臉檢測1:1能力平均響應時間為500ms,您擁有4個并發,則需要購買的QPS為4/0.5=8。如果您不想啟動全部的并發,可根據實際業務需求套用公式。
QPS限制提升流程和處理
視覺智能開放平臺能力在開通后都有QPS限制,當調用頻率超出QPS限制,會觸發限流,導致調用報錯。
如果您只是開通了能力,默認QPS限制不超過2(其中文字識別類目下的能力默認QPS限制不超過1,人臉人體類目下的指紋提取在審核通過后,開通能力后必須先購買QPS才能調用),具體限制請參考相應能力的按量付費計費介紹中的QPS限制。
如果您希望提升QPS限制,對于支持資源包的能力,您可以購買資源包,購買后會在次日早上8點提升QPS限制,一般能夠提升到5QPS,詳情可以查看相應能力資源包購買后的QPS調整策略。
如果您想進一步調整QPS限制,對于支持購買QPS預付費的能力,您可以在線購買QPS預付費,分割摳圖最高可直接購買到30QPS,人臉人體最高可直接購買到50QPS,如需購買更多QPS,請通過釘釘群:23109592,聯系我們。
您可以在視覺智能開放平臺控制臺找到對應能力后,單擊資源包下方的購買,或者QPS下方的擴容進行購買。
對于無法通過以上方案提升QPS限制的能力,或者上述方案提升后還無法滿足您的業務需求,請通過釘釘群(23109592)加入阿里云視覺智能開放平臺咨詢群聯系我們,將有技術人員與您對接QPS提升需求。
計費方式與QPS
如果您只開通服務,默認為按量付費方式,即按照您的調用次數或者其他維度進行計費,同時,按量付費有QPS限制,更多計費規則和QPS限制說明,請參見具體能力對應的按量付費計費介紹。
如果您購買了資源包,可以查看相應能力資源包購買后的QPS調整策略。
購買資源包后,調用會優先抵扣資源包,而不是按量付費。QPS調整并不是立即生效,會有一定延時,一般是次日8點后生效,更多信息請參見相應能力的資源包計費介紹。
購買資源包只是提高了QPS限制,調用還是需要抵扣資源包點數,如果資源包點數抵扣完畢,會自動轉換為按量付費模式,相應的QPS限制也會調整為按量付費模式的QPS限制。資源包點數剩余20%余量及耗盡時,系統會以短信的方式推送預警通知。
部分能力支持直接購買預付費QPS,如果您直接購買預付費QPS,QPS限制將立即生效,同時在享有預付費QPS時間段內,調用是不額外收費的。當預付費QPS到期后,調用將變更為資源包付費(如果您購買了相應能力的資源包)或者按量付費。
如果您同時購買了資源包或預付費QPS,扣費順序為:預付費QPS>預付費資源包>按量付費。
例如,您想使用人臉比對1:1(CompareFace)功能,2023年2月18號開通了人臉人體類目能力,2023年2月20號購買了圖像通用資源包,2023年2月22號購買了10QPS的人臉比對1:1預付費QPS,購買了2天時間,您的QPS限制規則如下:
時間 | QPS | 說明 |
2023年2月18號~2023年2月21號8點 | 2 | 按照開通服務后按量付費的規則計算。 |
2023年2月21號8點~2023年2月22號 | 5 | 您購買資源包后,次日8點QPS限制生效。 |
2023年2月22號~2023年2月24號 | 10 | 您購買預付費QPS后,QPS限制立即生效,有效期為2天。 |
2023年2月25號~資源包耗盡或者過期 | 5 | 預付費QPS到期,自動變更為資源包對應的QPS。 |
資源包耗盡或者過期以后 | 2 | 資源包耗盡或者過期,自動變更為按量付費對應的QPS。 |
QPS限制邏輯
QPS(query per second)是每秒鐘調用次數,如果超出QPS,那么超出的部分將會在調用的時候返回限流錯誤,錯誤類似:
{
"RequestId": "15C865AD-8C45-512F-B4E5-8963DB190181",
"HostId": "facebody.cn-shanghai.aliyuncs.com",
"Code": "Throttling",
"Message": "調用被限流,請稍后再調用,或者購買QPS提升調用限制",
"Recommend": "https://next.api.aliyun.com/troubleshoot?q=Throttling&product=facebody"
}
例如,您通過計費規則或者查看控制臺得知某能力的QPS為2,而在一秒內調用了3次,那么前2次將調用成功,第3次會被限流且返回以上錯誤信息,同時第3次調用不計費(視覺智能開放平臺所有能力只有調用成功才會計費)。QPS僅限制一秒內的調用次數,不會累加上一秒調用次數。例如,如果下一秒內又調用2次,那么這2次都將調用成功。