本文以某社交平臺為例,該平臺的用戶每天會上傳大量的圖片(圖片上傳后會存儲于OSS對象存儲服務tmpsample Bucket),為了快速監控該網站新增的圖片是否涉及色情、涉政暴恐等,該平臺使用內容安全OSS違規檢測功能。本文主要介紹如何使用OSS違規檢測功能監控該網站的圖片。
前提條件
步驟一:授權訪問OSS存儲空間
OSS違規檢測只向開通了阿里云對象存儲OSS服務的用戶提供服務。在使用OSS違規檢測前,需要先開通OSS服務,并創建tmpsample Bucket,授權內容安全讀取該Bucket權限。關于授權的具體操作,請參見授權內容安全訪問OSS存儲空間。
步驟二:設置增量掃描任務
通過增量掃描設置,您可以對tmpsample Bucket中新增的圖片、視頻自動進行違規檢測(每當Bucket中有新增內容,會自動觸發掃描),并實時查看近7天的增量掃描結果。
登錄內容安全控制臺。在左側導航欄,選擇 。
在增量掃描頁簽,按照實際業務進行如下配置:
選擇Bucket。
從左側待選擇框中選擇需要檢測的Bucket,添加到右側的已選擇框中。
然后單擊下一步。
設置過濾條件。
單擊已選擇的Bucket右側設置過濾條件,按如下說明配置僅掃描img/test_前綴的圖片文件。關于配置的詳細介紹,請參見設置過濾條件。
然后單擊下一步。
配置檢測場景。
配置掃描范圍。
掃描范圍根據您配置的檢測場景顯示。例如,您在場景配置頁面只勾選圖片,那么掃描配置頁面就只顯示圖片的配置信息。
設置每日圖片掃描上限為100張,開啟檢測無后綴文件。
然后單擊下一步。
配置凍結范圍。
開啟圖片需要自動凍結開關。
設置涉黃、涉政、圖文違規、不良場景選項按結論凍結。
選擇修改權限凍結方式。
將您Bucket中public權限的違規文件設置為private訪問權限。
然后單擊下一步。
選中我已經同意OSS違規檢測服務條款,并單擊保存。
OSS違規檢測功能會根據您的配置為您預估出掃描費用的上限,您可以根據實際業務選擇按量付費或者資源包抵扣方式。然后單擊確定。
增量掃描配置保存后即時生效。系統會按照增量掃描配置,自動對已選擇Bucket中新增的圖片、視頻進行違規檢測。
步驟三:查看掃描結果
OSS違規檢測服務為您提供查看掃描結果的功能,當您完成增量掃描任務后,您可以隨時在內容安全控制臺查看掃描結果,并根據掃描結果執行自助審核。
登錄內容安全控制臺。
在左側導航欄,選擇 。
在增量掃描頁面,單擊操作列掃描結果。
在增量掃描結果頁面,查看最近7天的增量掃描結果和處理違規內容。
如果掃描結果不符合您的業務需要,您可以對掃描結果進行自助審核,自助審核包含如下操作:
違規并刪除
通過單擊違規并刪除,可將圖片或視頻從內容安全控制臺和OSS Bucket中一并刪除。支持單選或者多選。
正常并忽略
通過單擊正常并忽略,則忽略該檢測結果。忽略后該圖片或視頻將不再在控制臺展示,并不影響存儲在OSS Bucket中的圖片或視頻。支持單選或者多選。
正常并解凍
若您設置了自動凍結功能,則還可以在選中圖片或視頻后單擊正常并解凍,將已凍結的圖片或視頻解凍。
步驟四:查看統計信息
OSS違規檢測服務為您提供數據統計功能,當您完成增量掃描任務后,您可以隨時在內容安全控制臺查看數據統計信息。您可以通過監控一段時間的統計數據,根據網站內容的違規情況,對網站加強管控。
登錄內容安全控制臺。
在左側導航欄,選擇 。
在增量掃描頁面,單擊圖標,然后單擊數據統計。
在OSS違規檢測1.0版調用量頁面的圖片頁簽,查看最近7天增量掃描的統計信息。