日本熟妇hd丰满老熟妇,中文字幕一区二区三区在线不卡 ,亚洲成片在线观看,免费女同在线一区二区

問答測試

控制臺中內置了問答測試頁面方便用戶進行問答測試,輸入問題模型就會匹配到對應的結果進行回答。完成實例配置后,您可針對不同場景和不同期望效果設置相應參數,通過體驗問答效果,來選擇最優(yōu)參數。本文以控制臺操作為例介紹如何進行問答測試并對可自定義的參數進行說明。

前提條件

  1. 已創(chuàng)建OpenSearch-LLM智能版實例,具體請參考:購買智能問答版實例

  2. 已完成數據配置工作,具體請參考:數據配置

操作步驟

  1. 登錄OpenSearch控制臺選擇LLM智能問答版,選擇左側導航欄實例管理,單擊對應的實例操作欄下的管理按鈕,進入實例詳情頁面,選擇問答測試,可以向模型進行提問。

  2. 可根據搜索需求填寫對應的問答參數Prompt參數文檔召回參數參考圖片參數Query理解參數人工干預參數其它參數,然后在對話框輸入需要詢問的內容,單擊發(fā)送按鈕

  3. 查看問答測試效果。

    問答效果.png

參數說明

問答參數說明

參數

類型

必需

取值范圍

默認值

描述

模型選擇

String

-

opensearch-qwen

表示該次搜索使用的LLM大模型。可選擇的模型請參考:LLM管理

Prompt

String

-

系統(tǒng)默認模板

表示該次搜索使用的Prompt。可選擇的Prompt請參考:Prompt管理

多輪對話

Boolean

-

true

  • false:表示多輪對話關閉;

  • true:表示多輪對話開啟,將結合近n輪對話內容返回結果;

  • session:用于標識對話來源,相同的對話來源會根據上下文進行對話。

流式輸出

Boolean

-

true

  • false:表示流式輸出關閉;

  • true:表示流式輸出開啟,將實時輸出模型回答結果。

Prompt參數說明

參數

類型

必需

取值范圍

默認值

描述

attitude

String

-

normal

  • 對話內容的語氣,默認為normal

  • normal:無

  • polite:使用和藹和禮貌的語氣

  • patience:使用委婉和耐心的語氣

rule

String

-

simple

對話內容的詳細程度,默認為detailed

  • detailed:詳細和專業(yè)

  • stepbystep:詳細且按步驟

noanswer

String

-

sorry

無法回答問題時的回復,默認為sorry

  • sorry:抱歉,根據已知信息無法回答該問題

  • uncertain:我不知道

language

String

-

Chinese

回答問題使用的語言,默認為Chinese

  • Chinese:中文

  • English:英語

  • Thai:泰語

  • Korean:韓語

role

Boolean

-

true

開啟后,將定制回答的角色。

role_name

String

-

AI小助手

定制回答的角色,例如:AI小助手

out_format

String

-

text

輸出內容的形式,默認為text

  • text:文本

  • table:表格

  • list:列項

  • markdown:markdown

文檔召回參數說明

參數

類型

必需

取值范圍

默認值

描述

filter

String

-

-

召回文檔時根據目標字段進行過濾。例:filter = field = value

top_n

INT

(0, 50]

5

召回的文檔數。

sf

Float

[0,+∞)

1.3

文檔召回的閾值,sf越大則召回文檔的向量相似度越小。

dense_weight

Float

(0,1)

0.7

選擇稀疏向量模型時可選,表示稠密向量的權重,稀疏向量的權重則為:1-dense_weight。

formula

String

-

向量相似度

文檔召回的排序公式。

operator

String

-

AND

文本召回時,文本token之間的關系。

參考圖片參數說明

參數

類型

必需

取值范圍

默認值

描述

sf

Float

[0,+∞)

1

參考圖片的閾值,對于稀疏向量模型sf越大則參考圖片與內容的向量相似度越大,對于稠密向量模型sf越大則參考圖片與內容的向量相似度越小。

dense_weight

Float

(0,1)

0.7

選擇稀疏向量模型時可選,表示稠密向量的權重,稀疏向量的權重則為:1-dense_weight。

Query理解參數說明

參數

類型

必需

取值范圍

默認值

描述

query_extend

Boolean

-

false

開啟后會擴展Query,提升召回質量

query_exten_num

INT

(0,+∞)

5

擴展Query的數量

人工干預參數說明

參數

類型

必需

取值范圍

默認值

描述

sf

Float

[0,2]

0.3

人工干預問題的閾值,默認為0.3,sf越大則越容易匹配到人工干預詞條

其它參數說明

參數

類型

必需

取值范圍

默認值

描述

return_hits

Boolean

-

false

是否在結果中返回文檔召回的結果

csi_level

String

-

strict

綠網配置

  • none: 表示不需要經過綠網處理

  • loose: 內容需要經過綠網處理,且只有綠網判斷確定存在敏感內容,就會被攔截,返回無結果

  • strict: 內容需要經過綠網處理,且一旦綠網判斷確定或者疑似存在敏感內容,就會被攔截,返回無結果

history_max

INT

(0,20]

20

多輪對話歷史最大輪數,最大20輪

link

Boolean

-

false

是否在結果中返回文檔召回的具體來源

說明

問答測試支持通過APISDK調用。