BiLLa
支持的領域 / 任務:aigc
BiLLa模型在大模型服務平臺上的模型名稱為"billa-7b-sft-v1"。BiLLa 是開源的推理能力增強的中英雙語 LLaMA 模型. 模型的主要特點:
較大提升 LLaMA 的中文理解能力, 并盡可能減少對原始 LLaMA 英文能力的損傷;
訓練過程增加較多的任務型數據, 利用 ChatGPT 生成解析, 強化模型理解任務求解邏輯;
全量參數更新, 追求更好的生成效果。
當前在大模型服務平臺部署服務時使用的ModelScope社區模型id:AI-ModelScope/BiLLa-7B-SFT,模型版本:v1.0.5。
更多信息可以參考ModelScope上BiLLa的開源repo。
模型概覽
模型名 | 模型簡介 |
billa-7b-sft-v1 | 開源的推理能力增強的中英雙語 LLaMA 模型 |
SDK使用
前提條件
單輪問答
以下示例展示了調用BiLLa模型對一個用戶指令進行響應的代碼。
需要使用您的API-KEY替換示例中的 your-dashscope-api-key ,代碼才能正常運行。
設置API-KEY
export DASHSCOPE_API_KEY=YOUR_DASHSCOPE_API_KEY
# For prerequisites running the following sample, visit http://bestwisewords.com/document_detail/611472.html
import dashscope
from dashscope import Generation
from http import HTTPStatus
response = Generation.call(
model='billa-7b-sft-v1',
prompt='翻譯成英文:春天來了,花朵都開了。'
)
# The response status_code is HTTPStatus.OK indicate success,
# otherwise indicate request is failed, you can get error code
# and message from code and message.
if response.status_code == HTTPStatus.OK:
print(response.output) # The output text
else:
print(response.code) # The error code.
print(response.message) # The error message.
// Copyright (c) Alibaba, Inc. and its affiliates.
import com.alibaba.dashscope.aigc.generation.Generation;
import com.alibaba.dashscope.aigc.generation.GenerationParam;
import com.alibaba.dashscope.aigc.generation.GenerationResult;
import com.alibaba.dashscope.exception.ApiException;
import com.alibaba.dashscope.exception.InputRequiredException;
import com.alibaba.dashscope.exception.NoApiKeyException;
import com.alibaba.dashscope.utils.JsonUtils;
public class Main {
public static void usage()
throws NoApiKeyException, ApiException, InputRequiredException {
Generation gen = new Generation();
String prompt = "翻譯成英文:春天來了,花朵都開了。";
GenerationParam param = GenerationParam
.builder()
.model("billa-7b-sft-v1")
.prompt(prompt)
.build();
GenerationResult result = gen.call(param);
System.out.println(JsonUtils.toJson(result));
}
public static void main(String[] args) {
try {
usage();
} catch (ApiException | NoApiKeyException | InputRequiredException e) {
System.out.println(e.getMessage());
}
System.exit(0);
}
}
參數配置
參數 | 類型 | 默認值 | 說明 |
model | string | - | 指定用于對話的BiLLa模型名,目前僅支持 billa-7b-sft-v1。 |
prompt | string | - | 用戶當前輸入的期望模型執行指令。 |
返回結果
返回結果示例
{
"status_code": 200,
"request_id": "39a41abe-1bed-430a-b9b5-277130c7eb82",
"code": "",
"message": "",
"output": {
"text": "好的,以下是一份限塑的倡議書提綱:\n\nI. 引言\n\n- 闡明海洋污染的嚴重性,并介紹倡議書的目的和主要內容\n\nII. 海洋塑料污染的嚴重性\n\n- 詳細描述海洋中塑料垃圾對海洋生態環境的危害,如何對海洋生態環境造成不可逆轉的損害\n\n- 引用相關的研究和數據,讓讀者更加深入地了解海洋塑料污染的嚴重性\n\nIII. 推廣限塑行動\n\n- 介紹限塑行動的必 要性和重要性,以及塑料制品的優點和缺點\n\n- 分析目前市場上可以使用的替代品,并向讀者推薦可以減少使用塑料制品的替代品\n\n- 鼓勵讀者參與限塑行動,從小做起,做到減少塑料垃圾的貢獻\n\nIV. 號召更多人加入限塑行動\n\n- 鼓勵讀者與身邊的朋友和家人分享限塑行動的相關知識,讓更多的人了解限塑行動的必要性\n\n- 號召更多企業加入限塑行動,為海洋環保做出貢獻\n\n- 提供更多資源和渠道,讓讀者更加深入地了解限塑行動,并積極參與到這個行動中\n\nV. 結語\n\n- 總結限塑行動的必要性和重要性,并向讀者表示感謝和祝福\n\n- 呼吁更多的人加入限塑 行動,為保護海洋環境做出自己的貢獻\n\n希望這份限塑的倡議書提綱能夠幫助您號召更多的人關注海洋環境保護,為建設美麗的海洋家園做出自己的貢獻。" }
}
返回參數說明
返回參數 | 類型 | 說明 |
status_code | int | 200(HTTPStatus.OK)表示請求成功,否則表示請求失敗,可以通過code獲取錯誤碼,通過message字段獲取錯誤詳細信息。 |
request_Id | string | 系統生成的標志本次調用的id。 |
code | string | 表示請求失敗,表示錯誤碼,成功忽略。 |
message | string | 失敗,表示失敗詳細信息,成功忽略。 |
output | dict | 調用結果信息,對于BiLLa模型,包含輸出text。 |
text | string | 模型生成回復。 |
usage | dict | 計量信息,表示本次請求計量數據。當前模型無計量信息,此處為默認值。 |
input_tokens | int | 用戶輸入文本轉換成Token后的長度。 |
output_tokens | int | 模型生成回復轉換為Token后的長度。 |
HTTP調用接口
功能描述
billa-7b-sft-v1 模型同時支持 HTTP 調用來完成客戶的響應。
前提條件
已開通服務并獲得API-KEY:安裝SDK。
提交接口調用
POST https://dashscope.aliyuncs.com/api/v1/services/aigc/text-generation/generation
入參描述
傳參方式 | 字段 | 類型 | 必選 | 描述 | 示例值 |
Header | Content-Type | String | 是 | 請求類型:application/json | application/json |
Authorization | String | 是 | API-Key,例如:Bearer d1**2a | Bearer d1**2a | |
X-DashScope-WorkSpace | String | 否 | 指明本次調用需要使用的workspace;需要注意的是,對于子賬號Apikey調用,此參數為必選項,子賬號必須歸屬于某個workspace才能調用;對于主賬號Apikey此項為可選項,添加則使用對應的workspace身份,不添加則使用主賬號身份。 | ws_QTggmeAxxxxx | |
Body | model | String | 是 | 指明需要調用的模型,固定值billa-7b-sft-v1 | billa-7b-sft-v1 |
input.prompt | String | 是 | 文本內容,支持中英文。 | 哪個公園距離我更近 |
出參描述
字段 | 類型 | 描述 | 示例值 |
output.text | String | 本次請求的算法輸出內容。 | 我建議你去頤和園 |
request_id | String | 本次請求的系統唯一碼 | 7574ee8f-38a3-4b1e-9280-11c33ab46e51 |
請求示例
以下示例展示通過CURL命令來調用billa-7b-sft-v1模型的腳本。
需要使用您的API-KEY替換示例中的 your-dashscope-api-key ,代碼才能正常運行。
curl --location 'https://dashscope.aliyuncs.com/api/v1/services/aigc/text-generation/generation' \
--header 'Authorization: Bearer <your-dashscope-api-key>' \
--header 'Content-Type: application/json' \
--data '{
"model": "billa-7b-sft-v1",
"input": {
"prompt": "Human: Write a Python function that checks if a given number is even or odd.\nAssistant: "
},
"parameters":{
}
}'
響應示例
{
"output":{
"text":"```python\ndef is_even(num):\n return num % 2 == 0\n```\n\nThis function takes an integer `num` as an input and returns `True` if the number is even or `False` if the number is odd. It calculates the remainder of the number when divided by 2 using the modulus operator (`%`). If the remainder is 0, then the number is even."
},
"request_id":"d89c06fb-46a1-47b6-acb9-bfb17f814969"
}
異常響應示例
在訪問請求出錯的情況下,輸出的結果中會通過 code 和 message 指明出錯原因。
{
"code":"InvalidApiKey",
"message":"Invalid API-key provided.",
"request_id":"d89c06fb-46a1-47b6-acb9-bfb17f814969"
}
狀態碼說明
大模型服務平臺通用狀態碼請查閱:狀態碼說明