本文介紹如何使用函數計算,基于通義千問語言模型快速搭建AI對話機器人。
背景信息
通義千問是阿里云推出的一個較大規模的語言模型,功能包括多輪對話、文案創作、邏輯推理、多模態理解、多語言支持等。通義千問能夠與人類進行多輪的交互,也融入了多模態的知識理解,且有文案創作能力,能夠續寫小說、編寫郵件等。
本文為您介紹如何通過函數計算基于通義千問模型,快速搭建一個AI對話機器人。
阿里云不對第三方模型的合法性、安全性、準確性進行任何保證,阿里云不對由此引發的任何損害承擔責任。
您應自覺遵守第三方模型的用戶協議、使用規范和相關法律法規,并就使用第三方模型的合法性、合規性自行承擔相關責任。
前提條件
已開通函數計算服務,詳情請參見開通函數計算服務。
操作步驟
使用通義千問預體驗應用框架知識問答過程將產生部分費用,包括GPU資源使用、vCPU資源使用、內存資源使用、磁盤資源使用和公網出流量以及函數調用的費用。具體信息,請參見費用說明。
創建應用
登錄函數計算控制臺,在左側導航欄,單擊應用。
如果您首次使用函數計算的應用中心,或您的賬號下沒有創建任何應用,在左側導航欄,單擊應用后,將自動進入創建應用頁面。
如果您之前使用過應用中心,在左側導航欄,單擊應用,然后在應用頁面單擊創建應用。
在創建應用頁面,選擇通過模板創建應用,然后在應用列表中搜索并選擇通義千問預體驗模板,光標移至該卡片,然后單擊立即創建。
在創建應用頁面,設置以下配置項,然后單擊創建并部署默認環境。
主要配置項說明如下,其余配置項保持默認值即可。
配置項
說明
示例值
部署類型
選擇部署應用的方式。
直接部署
角色名稱
首次登錄用戶,需要單擊前往授權配置角色權限。
如果您的角色名稱已有相關權限,則無需設置。
AliyunFCServerlessDevsRole
地域
選擇部署應用的地域。
重要如果部署異常,例如AIGC公共鏡像拉取耗時長,拉取失敗,請切換到其他地域重試。
華北2(北京)
在應用詳情頁面,找到目標環境,單擊其右側操作列的訪問域名。
您進入快速體驗頁面后,就可以開始與通義千問對話。
與通義千問對話
您可以選擇輸入以下函數計算預置的問題,或者輸入您自己的問題,與通義千問進行對話。每個阿里云賬號將有30次對話額度。例如,您可以輸入給我一段轉發/proxy路徑下所有流量到www.aliyun.com的Nginx配置
,體驗與通義千問對話的過程。
刪除資源
如您暫時不需要使用此應用,請及時刪除對應資源。如您需要長期使用此應用,請忽略此步驟。
返回函數計算控制臺概覽頁面,在左側導航欄,單擊應用。
單擊目標應用右側操作列的刪除,在彈出的刪除應用對話框,勾選我已確定資源刪除的風險,依舊要刪除上面已選擇的資源,然后單擊刪除應用及所選資源。
費用說明
套餐領取
為了方便您體驗本文提供的AI對話場景,首次開通用戶可以領取試用套餐并開通函數計算服務。該套餐不支持抵扣公網出流量和磁盤使用量的費用。如果您沒有購買相關資源包,公網出流量和超出512 MB的磁盤使用量將按量付費。
公網出流量和磁盤使用量評估
當前應用磁盤使用量為512 MB,不需要支付費用。在加載前端頁面時,需要約1 MB的公網出流量。公網出流量使用量和磁盤使用量計費可參考以下表格內容。
計費項 | 單價 | 使用量 | 計費 |
公網出流量 | 0.50元/GB | 1 MB | 0.00049元 |
磁盤使用量 | 不超出512 MB:免費 | 512 MB | 0元 |
內容安全費用
根據相關部門的規定,企業和開發者使用生成式人工智能服務需配備相應的內容風險管理機制,因此在本文場景中,默認為您集成了阿里云內容安全檢測服務,具體請參見AIGC內容安全方案。
本文使用的內容安全計費為:0.0075元/10條。
資源消耗評估
函數計算配置:CPU 2核、內存4 GB、磁盤 512 MB。通過本文場景進行30次對話的成本如下表所示。
資源 | 一次對話(20秒) | 30次對話費用 | |
調用次數 | 1次 |
| |
CPU資源消耗 |
|
| |
內存資源消耗 |
|
| |
磁盤資源消耗 | 512 MB | 0元 | |
公網出流量 | 前端頁面加載 | 1 MB |
|
1次對話 | 2.5 KB |
|
其中,領取的試用套餐不包括磁盤資源消耗和公網出流量。所以30次對話這部分費用大概是:0.0005元,其他資源均可以從套餐額度中抵扣。
您需要根據實際情況進行評估,具體的計費信息,請參見計費概述。