LLM-敏感信息打碼（MaxCompute）
該組件主要用于大語(yǔ)言模型（LLM）的文本數(shù)據(jù)預(yù)處理工作，可以將敏感信息打碼，例如將郵箱地址字符替換成[EMAIL]，手機(jī)/電話號(hào)碼替換成[TELEPHONE]或[MOBILEPHONE]，身份證號(hào)碼替換成[IDNUM]。
使用限制
僅支持MaxCompute計(jì)算引擎。
算法簡(jiǎn)介
敏感信息包括以下匹配項(xiàng)：
手機(jī)號(hào)碼：匹配以下正則表達(dá)式的字符串將被替換成
[MOBILEPHONE]。r'(?<!\d)(1(3[0-9]|4[579]|5[0-3,5-9]|6[6]|7[0135678]|8[0-9]|9[89])\d{8})(?!\d)'
r'(?<!\d)(1[\d]{2}-\d{4}-\d{4}\D|\D1\d{10}\D|\D1[\d]{2} \d{4} \d{4})(?!\d)'
r'(?<!\d)(1[3-9]\d{9})(?!\d)'
座機(jī)號(hào)碼：匹配以下正則表達(dá)式的字符串將被替換成
[TELEPHONE]。r'(?<!\d)(\(?0\d{2,3}[-\s)]?\d{7,8})(?!\d)'
郵箱：匹配以下正則表達(dá)式的字符串將被替換成
[EMAIL]。r'[a-zA-Z0-9_.+-]+@[a-zA-Z0-9-]+.[a-zA-Z0-9-.]+'
身份證：匹配以下正則表達(dá)式的字符串將被替換為
[IDNUM]。r'(?<!\d)([1-6]\d{5}[12]\d{3}(0[1-9]|1[12])(0[1-9]|1[0-9]|2[0-9]|3[01])\d{3}(\d|X|x))(?!\d)'
r'(?<!\d)([1-9]\d{5}[12]\d{3}(0[1-9]|1[012])(0[1-9]|[12][0-9]|3[01])\d{3}[0-9xX])(?!\d)'
例如郵箱打碼：
處理前：
處理后：
可視化配置參數(shù)
您可以在Designer中，通過(guò)可視化的方式配置組件參數(shù)。
頁(yè)簽 | 參數(shù) | 是否必選 | 描述 | 默認(rèn)值 |
字段設(shè)置 | 選擇目標(biāo)處理列 | 是 | 選擇要處理的列，支持選擇多個(gè)列。 | 無(wú) |
設(shè)置輸出表生命周期 | 否 | 正整數(shù)，單位為天。默認(rèn)28天，28天后該組件產(chǎn)生的臨時(shí)表被回收。 | 28 | |
執(zhí)行調(diào)優(yōu) | 每個(gè)實(shí)例的cpu數(shù)目 | 否 | 設(shè)定map task每個(gè)instance的CPU數(shù)目，取值范圍為[50,800]。 | 100 |
每個(gè)實(shí)例的memory大小，單位M | 否 | 設(shè)定map task每個(gè)instance的memory大小，單位為MB，取值范圍為[256,12288]。 | 1024 | |
每個(gè)實(shí)例處理的數(shù)據(jù)大小，單位M | 否 | 設(shè)定map task每個(gè)instance的最大處理數(shù)據(jù)量，用戶可以通過(guò)控制該變量，實(shí)現(xiàn)對(duì)map端輸入的控制。單位為MB，取值范圍為[1,Integer.MAX_VALUE]。 | 256 |
相關(guān)文檔
關(guān)于Designer組件更詳細(xì)的內(nèi)容介紹，請(qǐng)參見(jiàn)Designer概述。