配置風(fēng)險庫
為了使檢測結(jié)果更貼合您的實際業(yè)務(wù)，內(nèi)容安全支持自定義圖庫。自定義圖庫適用于圖片和視頻鑒黃、圖片和視頻涉政暴恐識別場景。您也可以使用自定義圖庫對指定的圖片進(jìn)行攔截、放行和人工審核，以便于應(yīng)對突發(fā)的管控需求。
背景信息
根據(jù)用途不同，自定義圖庫分為黑名單、白名單、疑似名單。在檢測中應(yīng)用自定義圖庫后，若被檢測圖片命中圖庫中的樣本，則會被打上圖庫對應(yīng)的識別結(jié)果標(biāo)簽。黑名單圖庫對應(yīng)的識別結(jié)果是違規(guī)（攔截），白名單對應(yīng)正常（放行），疑似名單則對應(yīng)疑似（人工審核）。自定義圖庫包括系統(tǒng)回流圖庫和用戶創(chuàng)建圖庫。
系統(tǒng)回流圖庫由您的自助審核記錄自動生成，默認(rèn)應(yīng)用于所有同類場景的圖片檢測。您可以管理系統(tǒng)回流圖庫中的圖片，不可以操作系統(tǒng)回流圖庫，例如停用或刪除圖庫。
用戶創(chuàng)建圖庫由您自行添加，可用于某次檢測或某類檢測場景。您可以管理用戶創(chuàng)建圖庫中的圖片，也可以操作用戶創(chuàng)建圖庫。
您可以創(chuàng)建10個自定義圖庫（不含系統(tǒng)回流圖庫），且在每個圖庫中添加最多10000張樣本圖片。
操作步驟
登錄內(nèi)容安全控制臺。
在左側(cè)導(dǎo)航欄，選擇。
在風(fēng)險庫管理頁面，單擊自定義圖庫頁簽后，單擊創(chuàng)建圖庫。
在創(chuàng)建圖庫對話框，請參考下表完成圖庫配置，并單擊確定。
表 1. 創(chuàng)建圖庫參數(shù)說明表
配置項
說明
名稱
為圖庫命名。名稱不超過20個字符。
使用場景
選擇圖庫的使用場景，取值：
鑒黃：圖片、視頻鑒黃（scenes包含porn）。
暴恐：圖片、視頻暴恐涉政識別（scenes包含terrorism）。
圖文違規(guī)：圖片、視頻圖文違規(guī)識別（scenes包含ad）。
不良場景：圖片、視頻不良場景識別（scenes包含live）。
識別結(jié)果
選擇圖庫的用途，取值：
風(fēng)險名單：若命中圖庫中樣本，則機(jī)審結(jié)果返回違規(guī)。
疑似名單：若命中圖庫中樣本，則機(jī)審結(jié)果返回疑似。
可信名單：若命中圖庫中樣本，則機(jī)審結(jié)果返回正常。
BizType
BizType允許您根據(jù)不同的業(yè)務(wù)需求配置并應(yīng)用不同的圖庫，例如使用BizType指定在某次檢測中應(yīng)用圖庫。BizType生效邏輯如下：
圖庫設(shè)置BizType為“A”，檢測時API中傳遞了BizType為“A”，則檢測時只會使用BizType為“A”的圖庫（前提是圖庫已啟用）。
其他情況下，檢測均會使用所有已啟用的圖庫。
說明包含Biztype屬性的風(fēng)險圖庫不適用于OSS違規(guī)檢測。
成功創(chuàng)建圖庫，已創(chuàng)建圖庫默認(rèn)啟用。
在自定義圖庫頁簽，單擊指定圖庫右側(cè)操作列下的管理。
自定義圖庫頁簽下顯示所有自定義圖庫，其中系統(tǒng)回流圖庫的名稱前有系統(tǒng)標(biāo)識，且按照使用場景_FEEDBACK_WHITE/BLACK命名。例如，LIVE_FEEDBACK_BLACK是由系統(tǒng)回流生成的用于不良場景的黑名單圖庫。
在圖庫管理頁面，您可以根據(jù)需要執(zhí)行如下操作。
說明在圖庫中新增、刪除圖片樣本，大約需要15分鐘生效。
根據(jù)風(fēng)險圖片ID、時間范圍、樣本ID查詢圖片。
單擊圖片，展開圖片的詳細(xì)信息面板，查看近期命中數(shù)量、添加時間、風(fēng)險圖片ID等信息。
單擊選擇文件，上傳圖片到圖庫。
說明支持上傳PNG、JPG、JEPG和BMP格式的圖片，單個文件需小于5 MB，一次最多上傳20張圖片。
單擊圖片下的刪除，刪除圖片；選中多張圖片后，單擊批量刪除，批量刪除圖片。
相關(guān)操作
對于自定義圖庫（非系統(tǒng)回流圖庫），您可通過自定義圖庫頁簽中操作列下的刪除、編輯和停用對目標(biāo)圖庫進(jìn)行操作。
后續(xù)步驟
完成配置風(fēng)險庫后，您就可以使用OSS違規(guī)檢測功能，在使用OSS違規(guī)檢測功能之前，您需要先配置消息通知。請參見配置消息通知。