應(yīng)用流開發(fā)
LangStudio為應(yīng)用流開發(fā)提供了直觀且高效的集成開發(fā)環(huán)境，您可以構(gòu)建、調(diào)試和優(yōu)化由大語言模型、Python節(jié)點(diǎn)以及其他工具組成的應(yīng)用流。
前提條件
已創(chuàng)建所需的連接。具體操作，請參見連接管理。
創(chuàng)建應(yīng)用流
進(jìn)入LangStudio，選擇工作空間后，在應(yīng)用流頁簽下單擊新建應(yīng)用流，進(jìn)入應(yīng)用流創(chuàng)建頁面。
從模板新建
RAG：創(chuàng)建一個檢索增強(qiáng)生成（Retrieval-Augmented Generation）應(yīng)用，需要使用到向量數(shù)據(jù)庫和LLM連接。
function-calling：創(chuàng)建一個支持工具使用的LLM應(yīng)用，需要使用LLM連接和SerpAPI連接。
nl2sql：創(chuàng)建一個基于自然語言生成并執(zhí)行SQL的LLM應(yīng)用，需要使用LLM連接和RDS MySQL連接。
按類型新建
標(biāo)準(zhǔn)型：適用于通用應(yīng)用程序開發(fā)。利用大語言模型的強(qiáng)大功能、定制的Python代碼等來打造您的定制化應(yīng)用流。
對話型：適用于對話型應(yīng)用程序開發(fā)。在標(biāo)準(zhǔn)型的基礎(chǔ)上，對話型提供對話歷史、輸入、輸出的管理，以及對話框形式的測試界面。
開發(fā)應(yīng)用流
應(yīng)用流開發(fā)界面分為以下區(qū)域：
區(qū)域 | 區(qū)域說明 | 備注 |
① | 應(yīng)用流概覽區(qū)域 | 應(yīng)用流的DAG圖，可直觀地查看數(shù)據(jù)在整個應(yīng)用流中的傳遞。 |
② | 文件列表區(qū)域 | 應(yīng)用流項目中的文件，您可以點(diǎn)擊這些文件進(jìn)行查看和編輯。 |
③ | 應(yīng)用流配置區(qū)域 | 編輯和配置應(yīng)用流中的各個節(jié)點(diǎn)。 |
④ | 純代碼模式開關(guān) | 應(yīng)用流配置頁（即區(qū)域②中的flow.dag.yaml文件）支持切換到純代碼模式。如果您更習(xí)慣于直接編寫代碼而不是使用可視化界面，可以啟用此模式。 |
⑤ | 應(yīng)用流配置工具欄 | 包含配置應(yīng)用流時常用的功能，如保存、添加Python節(jié)點(diǎn)、添加LLM節(jié)點(diǎn)和更多工具。 |
⑥ | 應(yīng)用流運(yùn)行工具欄 | 包含一些常用的操作按鈕，如啟動/查看/刪除運(yùn)行時、調(diào)試/運(yùn)行應(yīng)用流、查看應(yīng)用流運(yùn)行歷史以及應(yīng)用流部署。 重要
|
基礎(chǔ)開發(fā)流程如下：
添加LLM/Python節(jié)點(diǎn)：鼠標(biāo)懸停在兩節(jié)點(diǎn)間空隙或單擊應(yīng)用流配置工具欄。
啟動運(yùn)行時：單擊右上角啟動運(yùn)行時并進(jìn)行配置。在進(jìn)行Python節(jié)點(diǎn)解析或查看更多工具時，需要保證運(yùn)行時已啟動。
關(guān)鍵參數(shù)說明：
專有網(wǎng)絡(luò)配置：請確保選擇的VPC和應(yīng)用流所用的連接（如LLM服務(wù)連接、數(shù)據(jù)庫服務(wù)連接等）所在的VPC一致或兩者網(wǎng)絡(luò)已連通。
配置節(jié)點(diǎn)參數(shù)。
支持添加Python、LLM和工具節(jié)點(diǎn)。當(dāng)添加Python節(jié)點(diǎn)時，關(guān)鍵說明：
函數(shù)需要被
@tool裝飾，才可以被加載為一個節(jié)點(diǎn)。修改完代碼后，單擊解析，函數(shù)的入?yún)粍討B(tài)解析，成為節(jié)點(diǎn)的輸入；函數(shù)的輸出會被放到output字典中，可以被其他節(jié)點(diǎn)引用。
注：圖中Python節(jié)點(diǎn)的入?yún)?span id="z68uejxpaoma" class="help-letter-space">input1是chat節(jié)點(diǎn)的輸出，同時Python節(jié)點(diǎn)的輸出作為應(yīng)用流最終的輸出字段answer的值。
函數(shù)支持的輸入/輸出類型：int、float、bool、str、dict、TypedDict、dataclass（只支持輸出）、list。
調(diào)試/運(yùn)行：單擊右上角對話/運(yùn)行， 開始執(zhí)行應(yīng)用流。
查看鏈路/錯誤日志：單擊生成答案下的查看鏈路或查看日志，查看鏈路（Trace詳情、拓?fù)湟晥D）或運(yùn)行日志。
刪除運(yùn)行時。如果您暫不需要運(yùn)行業(yè)務(wù)流，建議刪除運(yùn)行時，避免持續(xù)計費(fèi)。
后續(xù)操作
應(yīng)用流開發(fā)、調(diào)試完成后，您可以將應(yīng)用流部署至模型在線服務(wù)PAI-EAS中供生產(chǎn)使用。