AI提示詞插件,支持在LLM的請求前后插入prompt。
運行屬性
插件執行階段:默認階段
,插件執行優先級:450
。
配置說明
名稱 | 數據類型 | 填寫要求 | 默認值 | 描述 |
名稱 | 數據類型 | 填寫要求 | 默認值 | 描述 |
| array of message object | optional | - | 在初始輸入之前插入的語句 |
| array of message object | optional | - | 在初始輸入之后插入的語句 |
message object 配置說明:
名稱 | 數據類型 | 填寫要求 | 默認值 | 描述 |
名稱 | 數據類型 | 填寫要求 | 默認值 | 描述 |
| string | 必填 | - | 角色 |
| string | 必填 | - | 消息 |
配置示例如下:
prepend:
- role: system
content: "請使用英語回答問題"
append:
- role: user
content: "每次回答完問題,嘗試進行反問"
使用以上配置發起請求:
curl http://localhost/test \
-H "content-type: application/json" \
-d '{
"model": "gpt-3.5-turbo",
"messages": [
{
"role": "user",
"content": "你是誰?"
}
]
}
經過插件處理后,實際請求為:
curl http://localhost/test \
-H "content-type: application/json" \
-d '{
"model": "gpt-3.5-turbo",
"messages": [
{
"role": "system",
"content": "請使用英語回答問題"
},
{
"role": "user",
"content": "你是誰?"
},
{
"role": "user",
"content": "每次回答完問題,嘗試進行反問"
}
]
}
基于geo-ip插件的能力,擴展AI提示詞裝飾器插件攜帶用戶地理位置信息
如果需要在LLM的請求前后加入用戶地理位置信息,請確保同時開啟geo-ip插件和AI提示詞裝飾器插件。并且在相同的請求處理階段里,geo-ip插件的優先級必須高于AI提示詞裝飾器插件。首先geo-ip插件會根據用戶IP計算出用戶的地理位置信息,然后通過請求屬性傳遞給后續插件。比如在默認階段里,geo-ip插件的priority配置1000,ai-prompt-decorator插件的priority配置500。
geo-ip插件配置示例:
ipProtocal: "ipv4"
AI提示詞裝飾器插件的配置示例如下:
prepend:
- role: system
content: "提問用戶當前的地理位置信息是,國家:${geo-country},省份:${geo-province}, 城市:${geo-city}"
append:
- role: user
content: "每次回答完問題,嘗試進行反問"
使用以上配置發起請求:
curl http://localhost/test \
-H "content-type: application/json" \
-H "x-forwarded-for: 87.254.207.100,4.5.6.7" \
-d '{
"model": "gpt-3.5-turbo",
"messages": [
{
"role": "user",
"content": "今天天氣怎么樣?"
}
]
}'
經過插件處理后,實際請求為:
curl http://localhost/test \
-H "content-type: application/json" \
-H "x-forwarded-for: 87.254.207.100,4.5.6.7" \
-d '{
"model": "gpt-3.5-turbo",
"messages": [
{
"role": "system",
"content": "提問用戶當前的地理位置信息是,國家:中國,省份:北京, 城市:北京"
},
{
"role": "user",
"content": "今天天氣怎么樣?"
},
{
"role": "user",
"content": "每次回答完問題,嘗試進行反問"
}
]
}'
- 本页导读 (1)
- 運行屬性
- 配置說明
- 基于geo-ip插件的能力,擴展AI提示詞裝飾器插件攜帶用戶地理位置信息
文档内容是否对您有帮助?