內容安全默認依據阿里巴巴全局風險圖庫為您提供檢測服務,可以滿足大部分的常規檢測需求。為了使檢測結果更貼合您的實際業務,內容安全也支持自定義圖庫。您可以使用自定義圖庫來管理需要針對性地攔截、放行、人工審核的圖片,應對突發的管控需求。
背景信息
根據用途不同,自定義圖庫分為黑名單、白名單、疑似名單。在檢測中應用自定義圖庫后,若被檢測圖片命中圖庫中的樣本,則會被打上圖庫對應的識別結果標簽。黑名單圖庫對應的識別結果是違規(攔截),白名單對應正常(放行),疑似名單則對應疑似(人工審核)。自定義圖庫包括系統回流圖庫和用戶創建圖庫。
系統回流圖庫由您的自助審核記錄自動生成,默認應用于所有同類場景的圖片檢測。您可以管理系統回流圖庫中的圖片,不可以操作系統回流圖庫,例如停用或刪除圖庫。
用戶創建圖庫由您自行添加,可用于某次檢測或某類檢測場景。您可以管理用戶創建圖庫中的圖片,也可以操作用戶創建圖庫。
您可以創建10個自定義圖庫(不含系統回流圖庫),且在每個圖庫中添加最多10000張樣本圖片。
下文介紹了在內容安全控制臺管理內容檢測API自定義圖庫的操作方法。除了控制臺操作,您還可以通過API接口或SDK完成相關操作。更多內容,請參見:
操作步驟
登錄內容安全控制臺。
在左側導航欄,選擇 。
在風險庫管理頁面,單擊自定義圖庫頁簽后,單擊創建圖庫。
在創建圖庫對話框,請參考下表完成圖庫配置,并單擊確定。
表 1. 創建圖庫參數說明表
配置項
說明
名稱
為圖庫命名。名稱不超過20個字符。
使用場景
選擇圖庫的使用場景,取值:
鑒黃:圖片、視頻鑒黃(scenes包含porn)。
暴恐:圖片、視頻暴恐涉政識別(scenes包含terrorism)。
圖文違規:圖片、視頻圖文違規識別(scenes包含ad)。
不良場景:圖片、視頻不良場景識別(scenes包含live)。
識別結果
選擇圖庫的用途,取值:
風險名單:若命中圖庫中樣本,則機審結果返回違規。
疑似名單:若命中圖庫中樣本,則機審結果返回疑似。
可信名單:若命中圖庫中樣本,則機審結果返回正常。
BizType
BizType允許您根據不同的業務需求配置并應用不同的圖庫,例如使用BizType指定在某次檢測中應用圖庫。BizType生效邏輯如下:
圖庫設置BizType為“A”,檢測時API中傳遞了BizType為“A”,則檢測時只會使用BizType為“A”的圖庫(前提是圖庫已啟用)。
其他情況下,檢測均會使用所有已啟用的圖庫。
說明包含Biztype屬性的風險圖庫不適用于OSS違規檢測。
成功創建圖庫,已創建圖庫默認啟用。
在自定義圖庫頁簽,單擊指定圖庫右側操作列下的管理。
自定義圖庫頁簽下顯示所有自定義圖庫,其中系統回流圖庫的名稱前有系統標識,且按照使用場景_FEEDBACK_WHITE/BLACK命名。例如,LIVE_FEEDBACK_BLACK是由系統回流生成的用于不良場景的黑名單圖庫。
在圖庫管理頁面,您可以根據需要執行如下操作。
說明在圖庫中新增、刪除圖片樣本,大約需要15分鐘生效。
根據風險圖片ID、時間范圍、樣本ID查詢圖片。
單擊圖片,展開圖片的詳細信息面板,查看近期命中數量、添加時間、風險圖片ID等信息。
單擊選擇文件,上傳圖片到圖庫。
說明支持上傳PNG、JPG、JEPG和BMP格式的圖片,單個文件需小于5 MB,一次最多上傳20張圖片。
單擊圖片下的刪除,刪除圖片;選中多張圖片后,單擊批量刪除,批量刪除圖片。
相關操作
對于自定義圖庫(非系統回流圖庫),您可通過自定義圖庫頁簽中操作列下的刪除、編輯和停用對目標圖庫進行操作。