如果您希望檢測OSS存儲的圖片是否包含違規內容,例如圖片內容是否涉黃、涉政、涉恐、涉暴等,您可以選擇OSS提供的內容安全檢測服務。OSS內容安全服務具有通用性強、易用性高、價格實惠的特點。通過OSS內容安全檢測服務可以幫助您提高圖片內容審核效率,及時發現并處理違規圖片,提升內容安全和用戶體驗。
背景信息
內容安全檢測功能基于阿里安全團隊的AI算法和領域知識庫,并保持日常迭代和運營升級。相較于人工審核和標注,該功能具有更高的內容分析時效、更大的任務并發量、更低的費用成本,滿足UGC、AIGC等海量內容管理的場景。
OSS內容安全檢測支持90+內容風險分析和分類,適用于您對Bucket中的圖片文件進行掃描,識別是否存在違反網絡內容傳播相關規定、影響平臺內容秩序、影響用戶體驗的風險內容或元素。
您可以根據業務所處的行業場景規范或平臺內容治理規范進行檢測規則的調整,也可以基于系統所投遞的風險標簽和置信分數據,對具體內容制定進一步的審核或治理措施。
檢測范圍
檢測服務 | 適用場景 | 檢測內容 |
通用-圖片基線檢測 | 檢測圖片中是否存在違規或不宜傳播的內容。建議對涉及開放公網訪問的圖片均進行該項檢測。 | 支持對圖片中的色情、性感、涉政、暴恐、違禁等合規類要求的審核項進行檢測。 |
頭像-圖片風險檢測 | 檢測頭像場景的圖片中是否含有非法內容、誘導性信息、商標或惡搞元素等風險。建議對用戶賬號頭像、商家店鋪頭像等圖片進行該項檢測。 | 支持對圖片中的色情、低俗、涉政、暴恐、廣告、辱罵、符號等內容進行檢測。 |
AIGC-圖片風險檢測 | 針對AI場景,檢測AIGC生成的圖片是否存在違規或者不宜傳播的內容。建議AI生成的圖片均進行該項檢測。 | 針對AIGC生成的圖片進行專門優化,支持對色情、低俗、性感、涉政、暴恐、違禁、引人不適、不良等內容進行檢測。 |
前提條件
RAM用戶必須擁有oss:ActivateProduct
權限。具體操作,請參見為RAM用戶授權自定義的權限策略。
費用說明
對一個Object檢測一次,即可同時完成涉黃、涉政、涉恐、涉暴等檢測。計費標準為5元/萬次,但檢測次數取決于圖片檢測選擇的檢測服務數量。
當檢測某個Object時,如果只選擇了通用-圖片基線檢測服務,則計算為1次服務檢測。如果同時選擇了通用-圖片基線檢測和AIGC-圖片風險檢測服務,則計算為2次服務檢測。
僅支持按量付費。按量付費執行按小時計費的策略(賬單出賬時間通常在當前計費周期結束后,具體出賬時間以系統為準)。
注意事項
OSS內容安全檢測功能支持檢測Bucket中的圖片內容,并對圖片內容進行風險分析和標記,但不會對圖片內容進行修改或移動。
使用限制
地域限制
華東1(杭州)、華東2(上海)、華東5(南京-本地地域)、華東6(福州-本地地域)、華中1(武漢-本地地域)、華北1(青島)、華北2(北京)、華北 3(張家口)、華北5(呼和浩特)、華北6(烏蘭察布)、華南1(深圳)、華南2(河源)、華南3(廣州)、西南1(成都)地域支持使用內容安全檢測。
Bucket存儲類型限制
僅標準存儲類型的Bucket支持使用內容安全檢測。低頻訪問、歸檔、冷歸檔以及深度冷歸檔類型的Bucket不支持使用內容安全檢測。
Object存儲類型限制
圖片格式限制
僅支持PNG、JPG、JPEG、BMP、WEBP、TIFF、SVG、ICO以及HEIC。
圖片大小限制
以上格式圖片中,除HEIC最長邊要求小于8192 px以外,其他格式的圖片大小建議在10 MB以內,像素建議大于200*200(px),像素過低會影響內容安全檢測算法的效果。
使用OSS控制臺
首次使用內容安全檢測時,您需要開通內容安全檢測服務,并完成角色授權。
登錄OSS管理控制臺。
單擊Bucket 列表,然后單擊目標Bucket名稱。
在左側導航欄,選擇
。在內容安全頁面的檢測任務頁簽,單擊開通,然后按頁面指引領取內容安全免費試用額度,超出免費試用額度部分將采用按量付費。
開通內容安全服務后,在內容安全頁面的檢測任務頁簽,單擊授權OSS和日志訪問,然后按頁面指引完成AliyunOSSCIPScanOSSRole角色授權。
授權完成需要1~2分鐘。授權完成后,該角色默認擁有對Bucket內文件進行訪問,以及創建用于投遞檢測結果數據的日志服務Logstore和Project的權限。
設置檢測規則。
單擊內容安全頁面的檢測規則頁簽。
在檢測規則頁簽,選擇檢測服務,然后單擊右側的設置規則。
在規則配置頁面,單擊編輯,然后根據業務需求對檢測項目進行開啟或關閉。
單擊保存,約2~3分鐘后風險檢測規則配置生效。
創建檢測任務。
選擇類型。
單擊內容安全頁面的檢測任務頁簽。
在檢測任務頁簽,單擊創建批量任務。
在創建批量任務對話框,修改任務名稱,選擇任務類型和檢測服務。
選擇任務類型時默認開啟智能格式。開啟智能格式后,檢測任務會根據文件的Content-Type自動識別圖片類型的文件。
單擊下一步。
(可選)指定范圍,然后單擊下一步。
默認情況下,將檢測Bucket內的所有文件。您可以根據需求對檢測內容進行篩選。支持按時間范圍篩選,按文件前綴篩選等。
(可選)選擇規格,然后單擊提交。
默認情況下,不限制Bucket內的文件檢測數量,按照異步排隊的方式進行檢測。您可以根據需求調整文件檢測的上限。
說明當異步排隊任務不多時,百萬級數量的文件檢測任務可在24小時內完成,千萬級數量的文件檢測任務預估在48小時內完成,億級數量的文件檢測任務可能在72小時內完成。
任務狀態進入已完成階段后,查看檢測結果。
檢測結果不超出50,000條數據
默認最多可查詢最近180天的檢測結果,最多展示和導出50,000條數據。當檢測結果不超出50,000條數據時,建議直接通過OSS控制臺進行查看。
在檢測任務頁簽,單擊目標任務右側的查看結果。
在查詢結果頁面,您可以根據檢測時間范圍、文件名(Object)、文本信息進行篩選和查詢。
檢測結果超出50,000條數據
全部檢測結果會自動推送到日志服務中以固定規則命名的Project下專屬的Logstore。默認創建的Project格式為
aliyun-cip-阿里云賬號UID-cn-shanghai
,專屬Logstore為oss-cip-osscheck-log
。如果檢測結果超出50,000條數據,您可以通過日志服務進行查看。登錄日志服務控制臺。
在Project列表區域,單擊目標Project。
在
頁簽中,單擊oss-cip-osscheck-log
。查看OSS違規檢測結果投遞到日志服務的日志。
字段詳情說明如下:
字段
類型
是否創建索引
說明
bucket
String
是
文件所在的OSS存儲空間(Bucket)名稱。
code
Integer
是
檢測請求錯誤碼。
contentType
String
是
文件類型。
jobId
String
是
檢測任務ID。
jobName
String
是
檢測任務名稱。
labels
String
是
內容安全檢測結果返回標簽,多標簽之間用英文逗號分隔。
labels2
String
是
(如有)其他類型檢測結果返回標簽,多標簽之間用英文逗號分隔。
md5
String
是
文件MD5。
msg
String
是
檢測請求錯誤信息。
object
String
是
文件對象(Object)名稱。
parentJobId
String
是
檢測父任務ID(用于定時檢測任務)。
regionId
String
是
OSS Bucket所屬地域。
requestId
String
是
檢測任務請求ID。
scanResult
String
是
檢測詳細結果,格式為JSON字符串。
serviceCode
String
是
檢測配置服務。
subUid
String
是
阿里云RAM用戶UID。
uid
String
是
阿里云賬號UID。
(可選)日志服務采集到OSS內容檢測結果的日志后,您可以執行查詢分析、下載、投遞、加工、創建告警等操作,幫助您了解內容風險趨勢并實時監測。更多信息,請參見云產品日志通用操作。
關于不同檢測服務對應的標簽值說明,請參見風險標簽釋義表。
對檢測結果不為nonLable的圖片文件進行處理。
相關文檔
如果您對內容檢測范圍有更高要求,例如希望對OSS或者本地存儲的音頻、視頻、文本、文檔等多種數據類型進行檢測,請參見內容安全增強版。