LLM-N-Gram重復(fù)比率過濾（MaxCompute）
LLM-N-Gram重復(fù)比率過濾組件主要用于大語(yǔ)言模型（LLM）的文本數(shù)據(jù)預(yù)處理工作，保留字符級(jí)或者詞語(yǔ)級(jí)N-Gram重復(fù)比率在指定范圍內(nèi)的樣本。
使用限制
僅支持MaxCompute計(jì)算引擎。
算法簡(jiǎn)介
將文本中的內(nèi)容按照字符或詞語(yǔ)進(jìn)行大小為N的滑動(dòng)窗口操作，形成了長(zhǎng)度為N的片段序列。每一個(gè)片段稱為Gram，對(duì)所有Gram的出現(xiàn)次數(shù)進(jìn)行統(tǒng)計(jì)。最后統(tǒng)計(jì)頻次大于1的Gram的頻次總和 / 所有Gram的頻次總和兩者比率作為重復(fù)比率進(jìn)行樣本過濾。
如果是詞語(yǔ)級(jí)統(tǒng)計(jì)，會(huì)先將所有單詞轉(zhuǎn)成小寫格式再計(jì)算重復(fù)度。
可視化配置參數(shù)
您可以在Designer中，通過可視化的方式配置組件參數(shù)。
頁(yè)簽 | 參數(shù) | 是否必選 | 描述 | 默認(rèn)值 |
字段設(shè)置 | 選擇目標(biāo)處理列 | 是 | 選擇要處理的列，支持選擇多個(gè)列。 | 無(wú) |
是否根據(jù)字符級(jí)N-Gram重復(fù)比率過濾 | 否 |
| 無(wú) | |
是否根據(jù)詞語(yǔ)級(jí)N-Gram重復(fù)比率過濾 | 否 |
| 無(wú) | |
設(shè)置輸出表生命周期 | 否 | 正整數(shù)，單位為天。默認(rèn)28天，28天后該組件產(chǎn)生的臨時(shí)表被回收。 | 28 | |
執(zhí)行調(diào)優(yōu) | 每個(gè)實(shí)例的cpu數(shù)目 | 否 | 設(shè)定map task每個(gè)instance的CPU數(shù)目，取值范圍為[50,800]。 | 100 |
每個(gè)實(shí)例的memory大小，單位M | 否 | 設(shè)定map task每個(gè)instance的memory大小，單位為MB，取值范圍為[256,12288]。 | 1024 | |
每個(gè)實(shí)例處理的數(shù)據(jù)大小，單位M | 否 | 設(shè)定map task每個(gè)instance的最大處理數(shù)據(jù)量，用戶可以通過控制該變量，實(shí)現(xiàn)對(duì)map端輸入的控制。單位為MB，取值范圍為[1,Integer.MAX_VALUE]。 | 256 |
相關(guān)文檔
關(guān)于Designer組件更詳細(xì)的內(nèi)容介紹，請(qǐng)參見Designer概述。