基于AnalyticDB PostgreSQL搭建百煉產品博士應用
產品博士是基于百煉大模型服務平臺搭建的自定義應用,它將云原生數據倉庫 AnalyticDB PostgreSQL 版與通義大模型相結合,幫助您快速實現問答服務,提高獲取知識的效率。本文介紹云原生數據倉庫 AnalyticDB PostgreSQL 版產品博士應用以及如何通過產品博士實現快速檢索與生成問答服務。
概述
應用背景
傳統問答一般是基于預設答案的問答機器人,需要事先預設構造出問答,對問題和知識的覆蓋很有限,這種基于關鍵詞匹配的系統難以擴展、不夠靈活,需要人力持續維護與更新。這類問答機器人雖然有一定的作用,但效果遠不如預期。AIGC大模型技術的興起,產生了基于百煉大模型的生成式智能問答機器人——產品博士,它能夠深入理解語言的細微差別和復雜性,使得問答系統能夠更準確地理解查詢的上下文和意圖,并能以更自然的方式與您進行交互,提供流暢的對話體驗、更高級的語義分析推理和更深層次的洞察建議。
應用簡介
云原生數據倉庫 AnalyticDB PostgreSQL 版產品博士是基于阿里云百煉大模型服務平臺打造的專屬模型,將云原生數據倉庫 AnalyticDB PostgreSQL 版與通義大模型相結合,幫助您快速實現問答服務,提高獲知效率,提升工作效率。
應用架構
產品博士應用架構遵循層次化設計原則,核心架構包含模型能力層,領域數據層,領域能力層。實現了從基礎模型到云原生數據倉庫 AnalyticDB PostgreSQL 版專屬產品博士解決方案的無縫銜接。核心架構分為:
模型能力層:底層是通義千問基礎模型,為整個系統提供了強大的AI處理基礎。上層是百煉大模型服務平臺,不僅集成了RAG檢索能力,還通過高度優化的模型服務,為上層應用提供了靈活且強大的模型交互功能。
領域數據層:該層包含處理后的各類知識內容,匯集了多源、多維度的知識資源,經過深度整理與結構化處理,確保數據的準確性和時效性,為上層應用提供豐富且針對性的信息支持。
領域能力層:該層專注于實現高度定制化的功能,包括但不限于邏輯流程編排、策略動態配置、嚴格的數據安全管理機制、智能引用補全功能,以及閉環的效果評估與反饋系統。
產品博士應用架構圖如下所示:
前提條件
應用場景
電銷/客服:在電話溝通和服務過程中,借助產品博士可以快速獲取參考,再結合實際情況答復,避免四處尋找答案,節省大量時間,提升業務效率。
售前:在會議過程中面臨提問,不方便或來不及打電話尋求外援,在路途中收到客戶消息詢問時等。諸如此類的情況下產品博士可以提供隨身的問答服務。
營銷/中后臺/其他:在營銷、采購等各職能工作中,需要對特定產品有基本的了解,使用產品博士都可以即時得到答案。
應用優勢
支持多樣的問題類型:
產品能力
基于需求或場景的關聯產品
產品使用細節
產品案例
產品應標參數
輸出豐富而高質量的內容:
核心知識內容:包含產品知識庫、官方出版物、專項問答集與二次加工材料等。
擴展知識內容:包含市場洞察報告、官方產品文檔、案例資料、解決方案資料等。
結構化數據:包含產品資產信息、產品生命周期過程信息等。
具備自定義的領域工程能力:產品博士在百煉之上自定義了一層領域工程能力層,用來實現邏輯編排、策略配置、數據安全、引用補全、效果反饋等產品功能。
創建并體驗應用
產品博士應用是在阿里云百煉大模型服務平臺上并結合您上傳的知識庫創建的自定義應用。請您按照下列操作步驟創建并體驗產品博士應用。
新建知識庫
阿里云百煉中有默認知識庫,您也可以新建知識庫,在知識庫中上傳知識文件。具體操作如下 :
登錄阿里云百煉控制臺。
在左側導航欄,選擇
,并單擊知識索引。單擊創建知識庫,在該頁面下填寫知識庫基礎信息,數據類型和知識庫配置信息,并單擊下一步。示例如下:
知識庫參數
參數
說明
示例
知識庫基礎信息
知識庫名稱
知識庫名稱,0~20個字符,必填。
adbpgrag
知識庫描述
對知識庫包含的內容和數據的用途進行描述,0~1000個字符,非必填。
無
數據類型
數據類型
知識的數據類型:非結構化數據、結構化數據,必填。
非結構化數據
知識庫配置
配置模式
推薦配置:百煉推薦配置,在效果、推理成本、檢索時延等方面的最佳實踐。
自定義配置:完全開放的離線知識庫配置,按照檢索需求自由配置,獲得推理效果和時延方面的不同體驗。
必填。
推薦配置
向量存儲類型
內置或ADB-PG,必填。
ADB-PG
單擊下一步,單擊選擇文件,選擇已上傳的知識庫文件,單擊導入完成。
導入完成后自動返回查看知識庫頁面,查看新建的知識庫。
上傳知識庫文件
您可以根據需要,將個人或企業知識文件上傳到默認知識庫或已創建的知識庫中。具體操作如下:
登錄阿里云百煉控制臺。
在左側導航欄,選擇
,并單擊導入數據。請根據您的需要,在導入數據頁面選擇導入方式,上傳文件后點擊確認。
確認后自動返回數據管理頁面,查看已上傳的知識庫文件。
新建產品博士應用
請您按照以下步驟新建自定義應用,將已經上傳的知識庫配置到該應用中,并將該應用更名為產品博士。該應用模型會結合云原生數據倉庫 AnalyticDB PostgreSQL 版的RAG檢索能力和已上傳的知識庫共同構建產品博士應用,具體操作如下:
登錄阿里云百煉控制臺。
在左側導航欄,選擇
,并單擊新增應用。在應用設置頁面,單擊按鈕,修改應用名稱為產品博士并配置其它參數,示例如下:
應用參數
參數
說明
示例
模型
模型選擇
選擇合適的百煉大模型。
通義千問-Max
溫度系數:調控生成的多樣性。
最長回復長度:模型生成的長度限制,不包含Prompt,允許的最大長度因模型不同有所改變。
攜帶上下文輪數:設置輸入模型的最大歷史對話輪數,輪數越多,對話相關性越強。
溫度系數:0.85
最長回復長度:1000
攜帶上下文輪數:3
Prompt
Prompt
用來為模型授予角色和技能。
無
Prompt優化
針對輸入的Prompt進行專業優化,使模型更容易理解指令。
無
知識檢索增強
選擇知識庫
開啟知識檢索后可通過指定知識庫檢索對應文檔內容。
adbpgrag
檢索片段數
在一個搜索或信息檢索操作中,返回給用戶的符合查詢條件的文本片段的數量。
5
展示回答來源
開啟展示回答來源之后,將在結果中以序號方式展示生成結果的來源文檔,并且會消耗更多token。
已開啟
長期記憶
長期記憶
長期記憶功能是針對終端用戶提供的一項個性化功能,系統將根據對話歷史自動生成畫像并回答問題。如果您通過API調用,請切記傳入memoryID用來指定對應的終端用戶,否則功能不生效。該功能需要申請并限時免費使用。
未開啟
插件
官方提供4款預置插件,結合增強大語言模型的規劃調度能力和生成能力,更好地在您的業務場景中落地。本文以計算器、Python代碼解釋器插件為例。
Python代碼解釋器(免費)
計算器(免費)
流程
通過創建流程節點任務,對接人工智能應用,實現人工智能對任務流程的調度,滿足復雜及指定任務場景需求。若您需要創建新的流程,可前往流程組件。
無
單擊右上角發布按鈕,并單擊彈出框修改項確認中的確認發布。
在左側導航欄,選擇
,即可查看已創建的產品博士應用。
更多詳細內容,請參見0代碼構建私有知識問答應用。
應用體驗
搭建好產品博士應用后,您可以按照以下內容體驗產品博士的問答服務,具體操作如下:
登錄阿里云百煉控制臺。
在左側導航欄,選擇
,找到產品博士并單擊管理。在效果測試下空白框中輸入問題,產品博士會根據您已創建的知識庫檢索生成答案。示例如下: