內容安全視頻審核增強版服務,基于內容治理經驗和眾多行業場景的常見內容管理標準,為您預置了視頻審核的通用策略配置,如果預置配置無法滿足您的業務需求,您可以調整視頻審核的策略。本文介紹如何調整視頻審核的風險檢測策略。
應用場景
當您的業務遇到如下場景時,您可以基于阿里云提供的視頻審核增強版控制臺實現對檢測規則和檢測范圍的個性化調整,也可以通過控制臺查詢檢測結果、統計檢測量。
首次使用時,建議您登錄內容安全控制臺查看視頻審核初始的檢測策略配置。
應用場景 | 說明 |
您可以根據行業常見特性或自身業務所需,對視頻檢測的策略進行調整。支持調整的檢測策略如下:
例如,您希望視頻畫面僅檢測紅線違規內容,且視頻畫面按照2秒/幀的頻率進行審核,可以通過控制臺設置畫面檢測的規則進行調整。 | |
如您有多個業務需要用到同一個服務(service),但是希望每個業務設置的風險檢測策略不同,則可以通過復制service實現不同業務設置不同檢測策略的需求。 例如,您有A、B、C三個業務都需要用到視頻文件檢測(videoDetection)服務,但是三個業務標準不一致,您可以通過控制臺復制videoDetection服務,創建videoDetection_01、videoDetection_02服務,通過對這3個檢測服務(service)設置不同的風險檢測策略,從而滿足不同業務的需求。 | |
如您希望將視頻截幀后的圖片長期存儲,可以配置將截幀畫面轉存到您的OSS存儲桶中。 說明 系統默認會將視頻截幀后的圖片臨時存儲30分鐘并通過API接口返回臨時鏈接地址。證據轉存功能僅支持國內接入區域開啟。 | |
如您對于近期檢測的視頻,有進一步細節查看和分析的需求,可以通過結果查詢頁面查看或搜索。 | |
如您有統計和查看近期視頻檢測量級的需求,可以通過用量統計頁面實現。 |
開通服務
訪問內容審核增強版頁面,開通視頻審核增強版服務。
開通視頻審核增強版服務前,請先了解視頻審核增強版的計費規則。更多信息,請參見視頻審核增強版介紹及計費說明。
調整視頻審核的風險檢測策略
根據行業常見特性或自身業務所需,對檢測的范圍和結果返回方式進行調整,以滿足業務要求。
登錄內容安全控制臺。
在左側導航欄,選擇
。在規則配置頁面,單擊視頻文件檢測(videoDetection)服務操作列設置規則。
在視頻文件檢測(videoDetection)服務規則配置頁面,根據業務需要調整相關配置。
示例:要求每個視頻都截取1000幀,檢測畫面是否有紅線類違規,同時需要檢測視頻中語音是否違規,且返回所有檢測結果,配置如下:
在畫面截圖方式處選擇固定總數截幀,截幀總數輸入框輸入1000,畫面審核規則選擇通用基線檢測。
關于畫面審核規則的詳細信息,請參見圖片審核增強版介紹及計費說明。
開啟審核語音開關,并勾選音視頻媒體檢測。
勾選返回所有結果。
單擊保存,保存新配置的檢測規則。
新配置的檢測規則約2~5分鐘生效。
為多個業務設置差異化的風險檢測策略
根據不同業務的需求,對同一個服務(service)進行復制并設置不同的風險檢測策略,以滿足業務差異化的審核需求。
登錄內容安全控制臺。
在左側導航欄,選擇
。在規則管理頁面,對需要設置不同檢測范圍的服務(service)進行復制。
在service列表,單擊視頻文件檢測服務(videoDetection)操作列復制按鈕。
在復制Service對話框,填寫服務名稱和服務備注信息。
單擊確定。創建成功之后,單擊新創建服務(videoDetection_01)操作列設置規則,根據業務需要調整規則配置。
新服務(videoDetection_01)在創建成功后1~2分鐘即可調用。您可以復制出多個服務(service),通過對不同服務(service)的規則進行調整,滿足您差異化的風險檢測場景需求。
將視頻截幀后的圖片和音頻切片后的文件進行轉存
對于視頻的截幀圖片和音頻切片,可以設置保存到您自己的OSS存儲桶中,以便于長期存儲對應文件。
登錄內容安全控制臺。
在左側導航欄,選擇
。在規則配置頁面,單擊需要配置的service服務操作列設置規則,此處以視頻文件檢測(videoDetection)服務為例。
在視頻文件檢測(videoDetection)服務規則配置頁面,選擇結果處理配置tab頁。
示例:希望將視頻截幀后的圖片和音頻切片后的文件轉存到OSS存儲桶的video-001文件夾下,轉存所有結果,配置如下:
打開是否轉存開關(初次打開時需要進行OSS授權),選擇轉存的bucket,選擇轉存內容范圍,輸入轉存目錄,設置訪問鏈接有效期和轉存范圍。
單擊保存,保存證據轉存配置。
新配置的檢測規則約2~5分鐘生效。
逐條查詢視頻檢測的詳細結果
對于檢測的視頻,支持根據taskId、dataId、service、畫面標簽、語音標簽、視頻風險查詢具體圖片的詳細檢測結果。
登錄內容安全控制臺。
在左側導航欄,選擇
。在結果查詢頁面,輸入查詢條件查詢檢測結果。
如果希望搜索所有畫面有命中標簽的記錄,則設置查詢條件為畫面標簽不等于nonLabel。支持同時設置多個標簽,使用半角逗號(,)分隔。
說明默認按照時間由近及遠的順序展示,最多展示5萬條數據。內容安全控制臺提供近30天內的結果查詢,建議您對調用接口的每次返回做數據或日志存儲,以便于更長時間周期的數據分析和統計。
單擊目標結果操作列詳情,查看視頻審核的詳細信息。
單擊目標結果操作列的音畫結果,查看視頻畫面和視頻語音的詳細審核結果。
在畫面審核結果頁簽,為您展示每一幀的截圖以及每幀截圖命中的標簽信息。
在語音審核結果頁簽,為您展示語音轉文字結果和標簽命中信息。
說明僅當您在視頻審核設置中開啟視頻語音審核開關時才展示語音審核的結果。
統計近期視頻檢測量級
通過統計和查看近期視頻檢測量級,對具體視頻內容制定進一步的審核或治理措施。
登錄內容安全控制臺。
在左側導航欄,選擇
。在用量統計頁面,選擇時間段查詢用量或導出用量情況。
查詢用量:支持按天和按月統計用量情況,統計數據保存一年,支持查詢跨度為兩個月的數據。
曲線圖統計視頻審核服務任務數(視頻個數)。
柱狀圖統計畫面及語音服務調用量(視頻截幀審核張數及視頻語音審核分鐘數)。
導出用量:單擊圖標,可以按天或者按月導出用量情況。導出的報表是Excel格式,只包含有調用量的數據。具體字段說明如下:
名稱
含義
單位
賬號uid
導出的賬號UID信息。
無
service
視頻審核service
視頻畫面審核service
視頻語音審核service
無
用量
調用總量。
次
日期
統計日期。
日/月
查看視頻審核service的命中情況:在用量統計之后,會顯示每個有調用service的標簽命中情況。分為每天調用視頻數曲線圖和標簽占比矩形樹圖。
調用量柱狀圖:顯示每天調用的視頻文件命中標簽和沒有命中標簽的請求次數。
標簽占比矩形樹圖:展示視頻畫面標簽和視頻語音標簽的分布情況,且根據占比由多到少排列。同一類標簽使用相同顏色展示。