智能審核基于海量標注數據和深度學習算法實現,從語音、文字、視覺等多維度精準識別視頻、封面、標題等違禁內容,包括色情、暴恐、政治敏感等多個審核類型,廣泛應用于短視頻平臺、傳媒審核等場景,可有效提高視頻的審核效率。本文為您介紹如何自定義智能審核模板并進行智能審核。
應用場景
UGC內容審核
海量UGC(用戶生成內容)上傳的視頻,通過視頻智能審核技術,快速檢測違規內容,識別媒體質量問題,有效減少人工審核的工作量。
點播內容審核
高效識別點播視頻中的涉暴、涉政類鏡頭,緊跟時政動態,嚴控違規內容。
審核類型
審核類型 | 類型描述 | 審核結果分類 |
涉黃 | 檢測媒體文件中是否包含色情、性感內容。 | 正常、色情、性感 |
暴恐涉政 | 檢測媒體文件中是否包含暴恐或涉政類內容。 | 正常、血腥、爆炸煙光、特殊裝束、特殊標識、武器、涉政、打斗、聚眾、游行、車禍現場、旗幟、地標 |
廣告識別 | 檢測視頻、圖片中是否包含廣告和文字違規信息。 | 正常、文字含涉政內容、文字含涉黃內容、文字含辱罵內容、文字含暴恐內容、文字含違禁內容、文字含其他垃圾內容、牛皮癬廣告、含二維碼、含小程序碼、其他廣告 |
不良畫面檢測 | 檢測視頻、圖片中是否包含黑屏、黑邊、昏暗畫面、畫中畫、吸煙、車內直播等不良場景。 | 正常、圖片中無內容(例如黑屏、白屏)、畫中畫、吸煙、車內直播 |
logo識別 | 檢測視頻、圖片中是否包含logo信息,例如臺標,商標等。 | 正常、含受管控的logo、含商標 |
語音反垃圾 | 檢測視頻、音頻中是否包含語音垃圾信息,如廣告、涉政、暴恐等。 | 正常、含垃圾信息、廣告、涉政、暴恐、辱罵、色情、灌水、違禁、無意義、自定義(例如命中自定義關鍵詞) |
費用說明
視頻點播的智能審核為收費服務,按審核視頻總時長計費,計費詳情請參見智能審核計費。
注意事項
審核標準將遵循中國的法律法規,包括且不限于《中華人民共和國刑法》、《網絡安全法》、《互聯網信息服務管理辦法》、《計算機信息網絡國際聯網安全保護管理辦法》、《互聯網信息服務深度合成管理規定》、《生成式人工智能服務管理暫行辦法》等。
目前僅華東2(上海)、華北2(北京)和新加坡地域支持使用智能審核服務。
新加坡地域目前僅支持對涉黃、暴恐涉政和不良畫面檢測這三個類型的審核。
音視頻的最終審核結果由人工審核和智能審核結果共同決定,但人工審核的結果始終高于智能審核結果,即當人工審核和智能審核結果不一致時,按人工審核結果生效。
經過媒體審核的音視頻,僅狀態為正常(Normal)時才能正常播放,狀態為屏蔽(Blocked)或審核中(Checking)的音視頻只能在視頻點播控制臺播放或通過審核安全IP進行播放,您將無法通過API/SDK獲取到音視頻的播放地址用于播放,但對于已經外泄的有效播放地址仍可以正常播放。
前提條件
如何使用
步驟一:(可選)配置智能審核模板
視頻點播提供了系統預制的智能審核模板,并作為智能審核的默認審核模板。如果系統預制的模板不能滿足您的需求,您可以按需自行創建智能審核模板。
預制模板無法更改配置和刪除,其配置如下:
審核類型:暴恐涉政、鑒黃
審核范圍:視頻、封面、名稱
審核內容:畫面
最多支持添加20個自定義的智能審核模板。
控制臺方式
登錄視頻點播控制臺。
在左側導航欄選擇審核管理 > 審核設置,進入到審核設置頁面。
新建智能審核模板。
在審核設置頁面,單擊審核模板頁簽,進入到審核模板頁面。
單擊添加,進入到添加智能審核模板頁面。
參數名稱
參數說明
模板名稱
設置模板名稱,方便模板之間的區分。
審核類型
設置審核類型,可多選。取值:
鑒黃
暴恐涉政
廣告識別
logo識別
不良畫面檢測
語音反垃圾
說明如需對音頻進行審核,則審核類型需要勾選語音反垃圾。
新加坡地域的智能審核服務僅支持鑒黃、暴恐涉政和不良畫面檢測。
審核范圍
設置視頻的審核范圍,可多選。取值:
封面:對視頻的封面進行審核。
名稱:對視頻的名稱進行審核。
視頻:對視頻內容進行審核。
說明審核的封面不可超過5張。
審核的名稱及彈幕不可超過128個字節。
審核的視頻時長不可超過6小時。
審核內容
當前僅支持視頻畫面。
違規時自動屏蔽
該功能開啟后,將對機審結果為確認違規(由智能審核模板配置決定)的視頻進行自動屏蔽播放。
重要該功能為高危功能,請您慎重開啟。
單擊保存。
設置智能審核的默認審核模板。
方式一:在審核模板頁簽,單擊需要作為默認審核模板所在行的設為默認。
方式二:在審核配置頁簽,單擊智能審核區域下的修改配置,在機審模板的下拉選項中選擇作為默認的智能審核模板后,單擊確定。
OpenAPI方式
調用AddAITemplate - 添加AI模板接口,新建智能審核模板。
調用SetDefaultAITemplate - 設置默認AI模板接口,設置智能審核的默認審核模板。
關于智能審核模板的修改、查詢、刪除等接口,請參見AI模板相關接口。
步驟二:(可選)配置事件通知
建議您發起智能審核任務之前,配置視頻點播的事件通知,以便在智能審核任務完成后,能從接收到的回調消息中獲取到智能審核任務的狀態及審核結果等信息。事件通知的配置方法,請參見回調設置。
智能審核需要開啟的事件通知類型如下:
需要開啟音視頻分析完成,接收音視頻分析完成事件通知回調后,才能調用SubmitAIMediaAuditJob - 提交音視頻智能審核作業接口發起審核任務。
需要開啟視頻AI處理完成,所有AI處理都共用此開關,接收智能審核完成事件通知回調。
步驟三:發起智能審核作業
配合視頻點播工作流能力的應用,可以實現在視頻點播中上傳音視頻時自動觸發智能審核,或在上傳音視頻后手動觸發智能審核。
控制臺方式
場景一:上傳音視頻時自動觸發智能審核
創建包含智能媒資審核節點的工作流。
在工作流中添加智能媒資審核節點,并設置審核模板為系統預制審核模板或步驟一:(可選)配置智能審核模板中自行創建的智能審核模板。工作流的創建方法,請參見工作流管理。
上傳音視頻并選擇用工作流進行處理。
在視頻點播控制臺,從左側導航欄選擇
。單擊上傳音/視頻,單擊添加音/視頻。
按需設置上傳方式、存儲地址并添加上傳的視頻后,選擇用工作流處理,并選擇上一步創建的包含智能媒資審核節點的工作流。
單擊開始上傳。
場景二:上傳音視頻后手動觸發智能審核
方式一:在點播控制臺的媒資庫發起智能審核
創建包含智能媒資審核節點的工作流。
在工作流中添加智能媒資審核節點,并設置審核模板為系統預制審核模板或步驟一:(可選)配置智能審核模板中自行創建的智能審核模板。工作流的創建方法,請參見工作流管理。
在媒資庫選擇用工作流發起媒體處理。
在視頻點播控制臺,從左側導航欄選擇
。在音/視頻列表頁面,單擊目標音視頻所在行的媒體處理。
處理類型選擇用工作流處理,工作流選擇上一步創建的包含智能媒資審核節點的工作流。
單擊確定。
方式二:在點播控制臺的視頻審核頁面發起智能審核
OpenAPI方式
場景一:上傳音視頻時自動觸發智能審核
創建包含智能媒資審核節點的工作流。
在工作流中添加智能媒資審核節點,并設置審核模板為系統預制審核模板或步驟一:(可選)配置智能審核模板中自行創建的智能審核模板。工作流的創建方法,請參見工作流管理。
調用下述媒資上傳相關接口時,將
WorkflowId
參數設置為上一步創建的包含智能審核節點的工作流ID,并按需自定義其他參數,完成媒資上傳。
場景二:上傳音視頻后手動觸發智能審核
通過接口發起智能審核作業時,傳入TemplateId
參數,則可以指定智能審核模板進行審核,若不傳,則將按照步驟一中設置的默認審核模板進行審核。
音視頻:調用SubmitAIMediaAuditJob - 提交音視頻智能審核作業接口,對上傳到視頻點播中的音視頻資源發起智能審核作業。
圖片:調用SubmitAIImageAuditJob - 提交圖片智能審核作業接口,對上傳到視頻點播中的圖片資源發起智能審核作業。
說明調用接口進行圖片審核時,使用限制如下:
單個圖片大小不超過20 MB,高度或寬度不超過30000px,且圖片總像素不超過2.5億px。
(建議)圖片像素不低于256×256px,像素過低可能會影響審核效果。
步驟四:查看審核結果
智能審核結果中的圖片資源僅在點播提供的免費存儲上保留2周時間,超過2周將自動刪除。
如果您已配置事件通知,可以通過接收智能審核完成回調消息獲取審核結果詳情。
控制臺方式
登錄視頻點播控制臺。
在左側導航欄選擇審核管理 > 視頻審核,進入到視頻審核頁面。
在視頻審核列表頁查看視頻的審核信息。
其中,機審狀態、審核模板、機審結果、違規項為智能審核相關信息,各參數說明如下:
參數名稱
參數說明
視頻
展示音視頻的名稱、音視頻ID及存儲地址。
機審狀態
機器審核的狀態,取值如下:
未開啟:表示該音視頻還未進行過機審。
審核成功:表示該音視頻機審完成并機審成功,其審核模板列將展示所使用的機審模板,機審結果列會顯示違規、疑似或正常的結果。
審核失敗:表示該音視頻機審完成但機審失敗,其審核模板列將展示所使用的機審模板,機審結果列會顯示為--。
審核中:表示該音視頻正處于首次機審中。
重新審核中:表示該音視頻正處于重新機審中。
審核模板
智能審核所使用的模板,可在步驟一:(可選)配置智能審核模板中設置。
機審結果
智能審核的結果。取值如下:
違規:表示該音視頻存在機審模板中配置的違規內容,其違規項列將顯示具體的違規項。
疑似:表示該音視頻可能存在機審模板中配置的違規內容,其違規項列將顯示可能存在的違規項,建議對該資源進行人工審核再次確認。
正常:表示該音視頻不存在機審模板中配置的違規內容,其違規項列將顯示為normal。
--:表示該音視頻未進行過機審或機審失敗。
違規項
智能審核所檢測出的違規項。取值包括:鑒黃、暴恐涉政、廣告、logo、不良畫面、語音、normal、--。其中,--表示該音視頻還未進行過機審。
人審狀態
人工審核的狀態。取值如下:
未審核:表示該音視頻還未進行過人工審核,其終審結果列會顯示為--。
審核完成:表示該音視頻已完成人工審核,其終審結果列會顯示為通過或屏蔽。
終審結果
視頻審核的最終結果。取值如下:
通過:通過狀態的音視頻可以正常播放。
屏蔽:屏蔽狀態的音視頻只能在視頻點播控制臺播放或通過審核安全IP進行播放,您將無法通過API/SDK獲取到音視頻的播放地址用于播放,但對于已經外泄的有效播放地址仍可以正常播放。
--:表示該音視頻還未進行機器審核和人工審核,其是否能正常播放,取決于在
頁面所展示的狀態是否為正常。
操作
對音視頻可執行的操作,包括查看審核詳情、發起智能審核或人工審核。
看單個音視頻的審核詳情信息。
單擊操作列的詳情進入視頻審核詳情頁面,頁面將展示音視頻的播放預覽畫面、音視頻的名稱、ID、人審結果和機審結果等信息,并可在本頁面對音視頻進行播放查看及人工審核結果判定。
OpenAPI方式
調用GetAIMediaAuditJob - 查詢智能審核作業接口,可查詢指定智能審核任務的詳細信息。
調用GetMediaAuditResultDetail - 獲取智能審核結果詳情接口,可查詢指定音視頻或圖片的智能審核結果。
更多有關智能審核任務和結果的接口,請參見智能審核相關接口。