LLM-刪除LaTeX文檔頭(DLC)組件適用于TEX文檔格式數據。主要功能是找到第一個匹配<section-type>[optional-args]{name}章節格式的字符串,并將其之前的所有內容刪除,保留第一個匹配到章節后的所有內容,包括該章節標題。輸入的OSS數據文件(JSONL格式,示例)需符合:每一行是一個合法的JSON對象,文件由多行JSON對象組成,整個文件本身不是合法的JSON對象。
支持的計算資源
算法說明
定義LaTeX格式文本章節的正則表達式為:r'^(.*?)(\\\bchapter\b\*?(?:\[(.*?)\])?\{(.*?)\}|\\\bpart\b\*?(?:\[(.*?)\])?\{(.*?)\}|\\\bsection\b\*?(?:\[(.*?)\])?\{(.*?)\}|\\\bsubsection\b\*?(?:\[(.*?)\])?\{(.*?)\}|\\\bsubsubsection\b\*?(?:\[(.*?)\])?\{(.*?)\}|\\\bparagraph\b\*?(?:\[(.*?)\])?\{(.*?)\}|\\\bsubparagraph\b\*?(?:\[(.*?)\])?\{(.*?)\})'
(多個匹配字段用“|”分隔)。
定位到滿足上述正則表達式的第一個字符串,將其之前的所有內容刪除,保留第一個匹配到章節后的所有內容,包括該章節標題。示例如下:
處理前 | 處理后 |
配置組件
在Designer工作流頁面添加LLM-刪除LaTeX文檔頭(DLC)組件,并在界面右側配置相關參數:
參數類型 | 參數 | 是否必選 | 描述 | 默認值 | |
字段設置 | 目標處理字段 | 是 | 要處理的字段名稱。 | 無 | |
是否刪除沒有匹配到章節格式的樣本 | 否 | 如果勾選此選項,如果樣本沒有匹配到任何章節格式,則刪除該樣本。 | 選中 | ||
數據輸出OSS目錄 | 否 | 處理后數據的OSS存儲目錄。如果為空,使用工作空間默認路徑。 | 無 | ||
執行調優 | 多進程個數 | 否 | 設置進程數。 | 8 | |
選擇資源組 | 公共資源組 | 否 | 選擇節點規格(CPU或GPU實例規格)、節點數量、專有網絡。 | 無 | |
專有資源組 | 否 | 選擇CPU核數、內存、共享內存、GPU卡數、節點數量。 | 無 | ||
最大運行時長 | 否 | 組件最大運行時長,超過這個時間,作業會被kill。 | 無 |