您可以在百煉控制臺以零代碼的方式快速創建智能體應用,并將RAG(Retrieval-Augmented Generation,檢索增強生成)以及插件能力集成進來。應用創建完成后,您可以通過控制臺或API的方式來使用。
為什么使用智能體應用
大模型具有強大的語言理解和生成能力,然而大模型有一定局限性,如:
無法回答私有領域問題,如公司制度、人員信息等;
無法及時獲取最新消息,如實時天氣、比賽結果等;
無法準確回答專業問題,如數學計算、圖像生成等。
您可以使用智能體應用來解決這些問題。智能體應用是以大模型為基礎,根據業務場景集成特定外部能力的應用。
此處外部能力含義為:大模型本身不具備的能力。如獲取實時信息、回答私有領域問題等。
您可以在百煉控制臺通過零代碼的方式創建智能體應用,并將外部能力集成到應用中,解決您的業務問題。
智能體應用有許多使用場景,如:
私有領域知識問答
您只需準備好知識庫文件,便可以在百煉控制臺快速創建一個私有領域知識問答應用,將其應用到如公司制度、人員信息等問答場景。
個性化聊天機器人
百煉提供了長期記憶功能,可以保存關鍵的歷史對話信息,為您提供個性化的聊天體驗。此外,百煉集成了夸克搜索和圖像生成等插件,可以擴展聊天機器人的功能。
智能助手
通過引入RAG能力、長期記憶以及自定義插件等能力,您可以構建一個智能助手,幫助您提升工作效率,如處理郵件、撰寫周報等。
步驟一:創建智能體應用
1. 進入應用創建頁面訪問百煉控制臺我的應用,單擊新增應用,在智能體應用頁簽,單擊直接創建。 如果您之前已創建過應用,則單擊右上角的新增應用。 | |
2. 選擇大模型進入智能體應用管理界面后,您需要進行大模型的選擇與參數配置。您可以參考右圖,單擊設置,并在模型選擇的下拉菜單中選擇模型,此處選擇通義千問-Max。您可以根據需求進行模型參數的配置,參數詳情請將鼠標移動到進行查看,若無特定需求保持默認即可。 | |
3. 測試智能體應用選擇大模型之后,您就在百煉創建完成了一個智能體應用。您可以輸入問題進行測試。 |
步驟二:拓展智能體應用的能力
您可以在智能體應用管理界面,通過設置Prompt、添加RAG與插件等方法拓展智能體應用的能力。
通過設置Prompt指引內容生成方向
您可以在智能體應用管理界面中輸入Prompt來指引應用生成內容的方向。例如設置Prompt為: 請你模仿李白的語氣。 輸入“你好”,智能體應用的輸出如右圖。 |
通過RAG提升私域知識問答能力
RAG可以顯著提高大模型在處理私域知識或垂直領域問答時的效果。此處向您展示通過百煉控制臺操作將RAG的能力集成到智能體應用中的過程。
1. 上傳數據訪問數據管理,單擊導入數據。此處選擇百煉系列手機產品介紹.docx作為知識庫文件。在導入數據界面,將文件通過本地上傳方式導入。 | |
2. 創建知識庫
| |
3. 在應用中集成RAG |
通過插件擴展智能體應用能力
插件可以使智能體應用更高效、更專業地應用到業務場景中。百煉提供了多種官方插件。您可以在智能體應用管理界面單擊選擇插件,便可以在官方插件欄中選擇一個或多個插件。
同時您也可以添加自定義插件,詳情請查看插件概述。
1. 添加插件此處以圖片生成插件為例,在勾選對應插件后,單擊確認。 | |
2. 測試插件效果添加插件后,向輸入框輸入: 畫一只貓。 智能體應用的回復如右圖,可以看到智能體應用調用了圖像生成插件(即text_to_image)。 | |
3. 使用更多插件您可以在同一個智能體應用中選擇最多10個插件。智能體應用會根據輸入選擇使用一個或多個插件。比如提問: 查一下杭州明天的天氣,并將這個天氣的西湖畫出來。 智能體應用會輸出如右圖的內容。 |
步驟三:發布智能體應用
發布后的應用可以被API調用,也可以通過Web頁面分享給同一主賬號下的RAM子賬號使用。您可以單擊智能體應用管理界面右上角的發布按鈕。如果您的應用非首次發布,彈窗會向您展示當前智能體應用相比于上一次發布時的修改項。在您確認修改項后單擊確認發布。
如果您的應用為首次發布,則不會有彈窗信息。
通過API調用
您可以在智能體應用發布渠道頁簽,單擊API調用右側的查看API,查看通過API調用智能體應用的方法。
注:您需用您的API KEY對DASHSCOPE_API_KEY
進行替換才可發起調用。
通過官方分享渠道或魔筆分享渠道訪問應用
單擊官方分享渠道或魔筆分享渠道右側的圖標(界面提示:已復制鏈接),您可以按需將該鏈接分享給同一主賬號下的RAM子賬號使用。
通過釘釘訪問應用
在發布渠道頁簽,單擊釘釘機器人右側的圖標(界面提示:已復制鏈接),您可以按需將該鏈接分享給目標用戶。
通過微信訪問應用
在發布渠道頁簽,將鼠標懸浮至微信公眾號右側的圖標,您可以按需將二維碼分享給目標用戶。
音視頻實時互動
功能簡介
百煉可以將智能體應用發布為音視頻實時互動應用,并提供了便捷的調試窗口,支持通過H5/APP快速體驗demo效果,也可以通過音視頻SDK集成到用戶的Web/iOS/Android應用中。
功能亮點
全球高可用、低延遲:依托阿里云的實時音視頻網絡體系,全球3200+節點覆蓋和QoS優化,使得用戶可以在全球范圍內與 AI 智能體完成音視頻通話。
高度擬人化:通過持續迭代智能降噪、智能打斷、智能斷句等功能,使智能體在互動行為上更接近于人類,CosyVoice模型提供更加逼真的人聲。
易調試:提供體驗窗與調試信息展示,全流程可觀測、可修改、可調試。
易體驗、易集成:集成方式可參見集成方案概覽。
用法說明
首先,請配置一個可正常執行的智能體。
然后,請通過
調試出符合預期的效果。切換到語音交互或視頻交互,配置 API-KEY、音視頻設置后,在體驗窗調試音視頻交互效果。
點擊右上角體驗按鈕,生成臨時體驗二維碼,通過手機微信/釘釘/瀏覽器掃碼體驗交互效果。
效果確認后,點擊發布按鈕,進入發布渠道,完成智能媒體服務開通和slr授權后,創建互動智能體。
計費賬單從視頻云產出,百煉僅產出應用調用的賬單。
下一步
百煉提供了豐富的實踐教程文檔,如果您想快速將百煉集成到您的業務中,請參考實踐教程。