快速開始
大語言模型
支持的領(lǐng)域 / 任務(wù):aigc
Qwen2.5
Qwen2.5 是 Qwen 大型語言模型的最新系列。針對 Qwen2.5,我們發(fā)布了一系列基礎(chǔ)語言模型和指令調(diào)優(yōu)語言模型,參數(shù)規(guī)模從 5 億到 720 億不等。Qwen2.5 在 Qwen2 基礎(chǔ)上進(jìn)行了以下改進(jìn):
在我們最新的大規(guī)模數(shù)據(jù)集上進(jìn)行預(yù)訓(xùn)練,包含多達(dá)18T個Token。
由于我們在這些領(lǐng)域的專業(yè)專家模型,模型的知識顯著增多,編碼和數(shù)學(xué)能力也大大提高。
在遵循指令、生成長文本(超過 8K 個標(biāo)記)、理解結(jié)構(gòu)化數(shù)據(jù)(例如表格)和生成結(jié)構(gòu)化輸出(尤其是 JSON)方面有顯著改進(jìn)。對系統(tǒng)提示的多樣性更具彈性,增強(qiáng)了聊天機(jī)器人的角色扮演實(shí)現(xiàn)和條件設(shè)置。
支持超過 29 種語言,包括中文、英語、法語、西班牙語、葡萄牙語、德語、意大利語、俄語、日語、韓語、越南語、泰語、阿拉伯語等。
專業(yè)領(lǐng)域的專家語言模型,即用于編程的 Qwen2.5-Coder和用于數(shù)學(xué)的 Qwen2.5-Math,相比其前身 CodeQwen1.5 和 Qwen2-Math 有了實(shí)質(zhì)性的改進(jìn)。 具體來說,Qwen2.5-Coder 在包含 5.5 Ttokens 編程相關(guān)數(shù)據(jù)上進(jìn)行了訓(xùn)練,使即使較小的編程專用模型也能在編程評估基準(zhǔn)測試中表現(xiàn)出媲美大型語言模型的競爭力。 同時,Qwen2.5-Math 支持 中文和 英文,并整合了多種推理方法,包括CoT(Chain of Thought)、PoT(Program of Thought)和 TIR(Tool-Integrated Reasoning)。
Qwen2
Qwen2是Qwen開源大語言模型的新系列。參數(shù)范圍包括0.5B到72B,包括Mixture-of-Experts模型。與最先進(jìn)的開源語言模型(包括之前發(fā)布的 Qwen1.5)相比,Qwen2在一系列針對語言理解、語言生成、多語言能力、編碼、數(shù)學(xué)、推理等的基準(zhǔn)測試中總體上超越了大多數(shù)開源模型,并表現(xiàn)出與專有模型的競爭力。Qwen2增?了上下??度?持,最?達(dá)到128K tokens(Qwen2-72B-Instruct),能夠處理大量輸入。
DashScope上基于Qwen2開源的0.5B、1.5B、7B、72B和57B-A14B MoE模型的instruct版本,并進(jìn)行了針對性的推理性能優(yōu)化,為廣大開發(fā)者提供便捷的API服務(wù)。各個版本均對應(yīng)魔搭社區(qū)開源的各個模型版本,詳細(xì)參考 鏈接。
Qwen1.5
Qwen1.5是Qwen開源系列的下一個版本。與之前的版本相比,Qwen1.5顯著提升了聊天模型與人類偏好的一致性,改善了它們的多語言能力,并具備了強(qiáng)大的鏈接外部系統(tǒng)能力。DashScope上提供API服務(wù)的是新版本qwen模型的chat版本,在chat能力上大幅提升,即便在英文的MT-Bench上,Qwen1.5-Chat系列也取得了優(yōu)秀的性能。
DashScope上提供的0.5B模型、1.8B模型、7B模型、14B模型、32B模型、72B模型和110B模型基于千問開源版本,進(jìn)行了針對性的推理性能優(yōu)化,為廣大開發(fā)者提供便捷的API服務(wù)。各個版本均對應(yīng)魔搭社區(qū)開源的各個尺寸的模型版本,詳細(xì)參考鏈接。
CodeQwen1.5
CodeQwen1.5是專門針對代碼的Qwen1.5版本。與Qwen1.5相比,CodeQwen1.5在大量的代碼數(shù)據(jù)上訓(xùn)練得到。它擁有強(qiáng)大的代碼生成能力,在一系列基準(zhǔn)測試中展現(xiàn)出不凡的競爭力。其支持92種編程語言,上下文長度可達(dá)64K,在SQL生成和bug修復(fù)方面均有出色的表現(xiàn)。
DashScope上提供的7B模型基于千問開源版本,進(jìn)行了針對性的推理性能優(yōu)化,為廣大開發(fā)者提供便捷的API服務(wù)。各個版本均對應(yīng)魔搭社區(qū)開源的各個尺寸的模型版本,詳細(xì)參考鏈接。
Qwen
通義千問系列模型為阿里云研發(fā)的大語言模型。千問模型基于Transformer架構(gòu),在超大規(guī)模的預(yù)訓(xùn)練數(shù)據(jù)上進(jìn)行訓(xùn)練得到。預(yù)訓(xùn)練數(shù)據(jù)類型多樣,覆蓋廣泛,包括大量網(wǎng)絡(luò)文本、專業(yè)書籍、代碼等。同時,在預(yù)訓(xùn)練模型的基礎(chǔ)之上,使用對齊機(jī)制打造了模型的chat版本。其中千問-1.8B是18億參數(shù)規(guī)模的模型,千問-7B是70億參數(shù)規(guī)模的模型,千問-14B是140億參數(shù)規(guī)模的模型,千問-72B是720億參數(shù)規(guī)模的模型。
DashScope上提供的千問開源模型,進(jìn)行了針對性的推理性能優(yōu)化,為廣大開發(fā)者提供便捷的API服務(wù)。其中1.8B模型基于最新在魔搭社區(qū)開源的最新版本,7B模型基于最新在魔搭社區(qū)上開源的V1.1版本,而14B模型同樣基于魔搭社區(qū)上最新版本提供, 72B模型基于魔搭社區(qū)開源的最新版本提供。
快速開始
前提條件
已開通服務(wù)并獲得API-KEY:API-KEY的獲取與配置。
已安裝最新版SDK:安裝DashScope SDK。
同時DashScope 提供了與OpenAI兼容的接口訪問服務(wù),詳情參考Chat。
示例代碼
以下示例展示了DashScopeSDK和API調(diào)用通義千問72B模型,對一個用戶指令進(jìn)行響應(yīng)的代碼。如需調(diào)用通義千問開源其它模型,將代碼中的qwen1.5-72b-chat替換為API詳情中“模型概覽”里的其它模型名即可。
需要使用您的API-KEY替換示例中的YOUR_DASHSCOPE_API_KEY,代碼才能正常運(yùn)行。
設(shè)置API-KEY
export DASHSCOPE_API_KEY=YOUR_DASHSCOPE_API_KEY
from http import HTTPStatus
import dashscope
def call_with_messages():
messages = [
{'role': 'user', 'content': '用蘿卜、土豆、茄子做飯,給我個菜譜'}]
response = dashscope.Generation.call(
'qwen1.5-72b-chat',
messages=messages,
result_format='message', # set the result is message format.
)
if response.status_code == HTTPStatus.OK:
print(response)
else:
print('Request id: %s, Status code: %s, error code: %s, error message: %s' % (
response.request_id, response.status_code,
response.code, response.message
))
if __name__ == '__main__':
call_with_messages()
// Copyright (c) Alibaba, Inc. and its affiliates.
import java.util.Arrays;
import com.alibaba.dashscope.aigc.generation.Generation;
import com.alibaba.dashscope.aigc.generation.GenerationResult;
import com.alibaba.dashscope.aigc.generation.models.QwenParam;
import com.alibaba.dashscope.common.Message;
import com.alibaba.dashscope.common.Role;
import com.alibaba.dashscope.exception.ApiException;
import com.alibaba.dashscope.exception.InputRequiredException;
import com.alibaba.dashscope.exception.NoApiKeyException;
public class Main {
public static void callWithMessage()
throws NoApiKeyException, ApiException, InputRequiredException {
Generation gen = new Generation();
Message userMsg = Message.builder().role(Role.USER.getValue()).content("如何做土豆燉豬腳?").build();
QwenParam param =
QwenParam.builder().model("qwen1.5-72b-chat").messages(Arrays.asList(userMsg))
.resultFormat(QwenParam.ResultFormat.MESSAGE)
.topP(0.8)
.build();
GenerationResult result = gen.call(param);
System.out.println(result);
}
public static void main(String[] args){
try {
callWithMessage();
} catch (ApiException | NoApiKeyException | InputRequiredException e) {
System.out.println(e.getMessage());
}
System.exit(0);
}
}
python 調(diào)用成功后,將會返回如下示例結(jié)果。
{
"status_code": 200,
"request_id": "b3d8bb75-05a2-9044-8e9e-ec8c87689a5e",
"code": "",
"message": "",
"output": {
"text": null,
"finish_reason": null,
"choices": [
{
"finish_reason": "stop",
"message": {
"role": "assistant",
"content": "材料:\n- 蘿卜:2根\n- 土豆:2個\n- 茄子:2個\n- 大蔥:1根\n- 姜:適量\n- 蒜:適量\n- 食用油:適量\n- 鹽:適量\n- 生抽:適量\n- 蠔油:適量\n\n做法:\n\n1. 將蘿卜、土豆、茄子分別洗凈去皮,切成塊狀備用。\n2. 大蔥切斷,姜切片,蒜切末備用。\n3. 燒熱鍋,加入適量的食用油,放入蔥段、姜片、蒜末爆香。\n4. 加入蘿卜塊,翻炒幾分鐘,加入適量的鹽、生抽調(diào)味。\n5. 加入土豆塊,繼續(xù)翻炒幾分鐘,加入適量的鹽、生抽調(diào)味。\n6. 加入茄子塊,繼續(xù)翻炒幾分鐘,加入適量的鹽、生抽調(diào)味。\n7. 加入適量的蠔油,翻炒均勻,讓每一塊蔬菜都均勻地裹上蠔油。\n8. 翻炒幾分鐘,讓蔬菜熟透,即可出鍋。\n\n這道菜色香味俱佳,營養(yǎng)豐富,可以作為主食或配菜食用。"
}
}
]
},
"usage": {
"input_tokens": 31,
"output_tokens": 267
}
}
了解更多
有關(guān)通義千問開源模型API的詳細(xì)調(diào)用文檔可前往API詳情頁面進(jìn)行了解。關(guān)于模型的限流條件及超出基礎(chǔ)限流的申請方式請前往基礎(chǔ)限流。