大模型技術(shù)服務(wù)內(nèi)容說明
1. 服務(wù)概述
1.1 服務(wù)說明
大模型應(yīng)用咨詢服務(wù):
根據(jù)客戶的業(yè)務(wù)訴求,基于大模型的相關(guān)應(yīng)用的規(guī)劃設(shè)計(jì)、咨詢及相關(guān)項(xiàng)目管理服務(wù),包含AI應(yīng)用調(diào)優(yōu)、模型訓(xùn)練咨詢指導(dǎo)、工程部署指導(dǎo)和算力類產(chǎn)品使用指導(dǎo)培訓(xùn)等咨詢服務(wù)。
大模型工程技術(shù)服務(wù):
提供大模型整體模型工程應(yīng)用、效果優(yōu)化、模型訓(xùn)練及微調(diào)、模型實(shí)施部署的整體技術(shù)服務(wù),覆蓋從場景設(shè)計(jì)、數(shù)據(jù)和素材整理準(zhǔn)備、產(chǎn)品部署培訓(xùn)、算法算力平臺使用、測試和應(yīng)用推廣全過程。
2. 服務(wù)范圍
2.1 大模型應(yīng)用咨詢服務(wù)范圍
服務(wù)范圍包含:
大模型技術(shù)咨詢服務(wù):根據(jù)客戶的業(yè)務(wù)訴求,基于大模型的相關(guān)應(yīng)用場景進(jìn)行整體規(guī)劃設(shè)計(jì)、咨詢及相關(guān)項(xiàng)目過程管理服務(wù)。
提供算力類產(chǎn)品的部署使用及評測服務(wù)。
服務(wù)范圍不包含:
客戶系統(tǒng)的代碼開發(fā)。
第三方軟件的安裝、測試、故障診斷、優(yōu)化等日常運(yùn)維服務(wù)。
注:對于不在云上穩(wěn)定性保障服務(wù)(架構(gòu)優(yōu)化)范圍內(nèi)的第三方軟件問題,客戶可登錄阿里云社區(qū)獲取免費(fèi)咨詢,或聯(lián)系云市場商家尋求幫助。
2.2 大模型工程技術(shù)服務(wù)范圍
服務(wù)范圍包含:
根據(jù)客戶的業(yè)務(wù)訴求,基于大模型的相關(guān)應(yīng)用場景進(jìn)行整體規(guī)劃設(shè)計(jì)和咨詢類服務(wù)。
基于公共云的大模型技術(shù)實(shí)施服務(wù),包含數(shù)據(jù)準(zhǔn)備、模型效果優(yōu)化(含提示詞工程優(yōu)化實(shí)施、SFT實(shí)施)、大模型工程實(shí)施(含RAG工程設(shè)計(jì)與實(shí)施、Agent設(shè)計(jì)與實(shí)施)、集成指導(dǎo)、培訓(xùn)等,幫助客戶快速啟動大模型應(yīng)用和在業(yè)務(wù)中應(yīng)用大模型的產(chǎn)品技術(shù)能力。
基于阿里云模型能力及工程提供對應(yīng)的AI應(yīng)用和優(yōu)化服務(wù),包含對應(yīng)的效果呈現(xiàn)。
提供上述過程的項(xiàng)目管理服務(wù)。
服務(wù)范圍不包含:
客戶業(yè)務(wù)系統(tǒng)的代碼開發(fā)。
第三方軟件的安裝、測試、故障診斷、優(yōu)化等日常運(yùn)維服務(wù)。
注:對于不在云上穩(wěn)定性保障服務(wù)(架構(gòu)優(yōu)化)范圍內(nèi)的第三方軟件問題,客戶可登錄阿里云社區(qū)獲取免費(fèi)咨詢,或聯(lián)系云市場商家尋求幫助。
3. 前提條件
客戶應(yīng)提前至少15個自然日申請?jiān)摲?wù),以便于阿里云評估客戶業(yè)務(wù)目標(biāo)及時間計(jì)劃可行,確認(rèn)是否承接該服務(wù)申請。
如客戶的申請涉及大批量資源需求,建議客戶提前一個月申請,具體視供應(yīng)鏈評估情況協(xié)商。
客戶應(yīng)在阿里云承接服務(wù)后,提供場地、設(shè)備、必要的非生產(chǎn)環(huán)境及遠(yuǎn)程訪問通道、權(quán)限、明確的業(yè)務(wù)目標(biāo),協(xié)助阿里云開展服務(wù)。
客戶應(yīng)審核阿里云制定的項(xiàng)目實(shí)施計(jì)劃,以書面形式(包括但不限于電子郵件)確認(rèn)阿里云提供的具體實(shí)施計(jì)劃。客戶如無正當(dāng)技術(shù)理由,不得否定雙方已確認(rèn)的技術(shù)建議或方案,以確保及時實(shí)現(xiàn)本服務(wù)目的。
按雙方協(xié)商約定時間執(zhí)行具體的業(yè)務(wù)場景設(shè)計(jì)方案和技術(shù)實(shí)施方案。
3.1 分工邊界
3.1.1 客戶與阿里云
客戶購買大模型技術(shù)服務(wù),經(jīng)過阿里云審核及交流后確認(rèn)服務(wù)成立。
針對該服務(wù)的業(yè)務(wù)目標(biāo),雙方商定并確認(rèn)具體業(yè)務(wù)目標(biāo)及范圍。
3.1.2 客戶
客戶指定一名具備合適技能和經(jīng)驗(yàn)的項(xiàng)目經(jīng)理作為與阿里云溝通的主要聯(lián)系人,代表客戶直接負(fù)責(zé)項(xiàng)目實(shí)施的計(jì)劃、協(xié)調(diào)、監(jiān)督與控制以及升級問題與風(fēng)險,同時全權(quán)代表客戶在本項(xiàng)目的各個方面做出決策。
根據(jù)項(xiàng)目情況,由甲方項(xiàng)目經(jīng)理協(xié)調(diào)各方資源,并和乙方一同討論并圈定確定業(yè)務(wù)目標(biāo)(如完成哪些大模型業(yè)務(wù)場景設(shè)計(jì)和技術(shù)實(shí)施)。
提供場地、設(shè)備、必要的非生產(chǎn)環(huán)境及遠(yuǎn)程訪問通道、權(quán)限等,配合阿里云開展服務(wù)。
配合阿里云調(diào)研系統(tǒng)現(xiàn)有問題,參與具體的計(jì)劃實(shí)施,如業(yè)務(wù)架構(gòu),技術(shù)架構(gòu)等。
審核阿里云制定的實(shí)施計(jì)劃,并以書面或郵件方式確認(rèn)阿里云提出的具體實(shí)施計(jì)劃。客戶無正當(dāng)技術(shù)理由,不得否定阿里云提供的技術(shù)建議或方案。
對乙方提供大模型業(yè)務(wù)場景設(shè)計(jì)方案和技術(shù)實(shí)施方案進(jìn)行審核;如購買大模型應(yīng)用咨詢服務(wù),則由甲方進(jìn)行大模型業(yè)務(wù)方案和技術(shù)方案的實(shí)施。如購買了大模型工程技術(shù)服務(wù),則按照項(xiàng)目分工約定進(jìn)行實(shí)施,乙方不負(fù)責(zé)甲方現(xiàn)有業(yè)務(wù)應(yīng)用系統(tǒng)的改造及優(yōu)化。
乙方作為運(yùn)維主體,負(fù)責(zé)相關(guān)運(yùn)維工作。
授權(quán)阿里云針對安全事件進(jìn)行7x24小時監(jiān)控和分析。
3.1.3 阿里云
指派一名有經(jīng)驗(yàn)的項(xiàng)目經(jīng)理執(zhí)行項(xiàng)目管理,并引入、管理乙方項(xiàng)目組人員,與甲方項(xiàng)目經(jīng)理溝通。
了解客戶業(yè)務(wù)目標(biāo)、范圍,制定實(shí)施計(jì)劃, 并獲得客戶的書面(包括但不限于電子郵件)確認(rèn)。
提供本工作說明書規(guī)定的各項(xiàng)服務(wù)目錄,如業(yè)務(wù)場景設(shè)計(jì)范圍,提供可行方案。
3.1.4 完工標(biāo)準(zhǔn)
提交《大模型技術(shù)咨詢服務(wù)驗(yàn)收報(bào)告》,內(nèi)容包括:場景現(xiàn)狀和需求分析、基礎(chǔ)設(shè)施現(xiàn)狀調(diào)研、大模型場景設(shè)計(jì)方案。
提交《大模型工程技術(shù)服務(wù)驗(yàn)收報(bào)告》,內(nèi)容包括:對客戶業(yè)務(wù)場景現(xiàn)狀和需求分析、基礎(chǔ)設(shè)施現(xiàn)狀調(diào)研、大模型場景設(shè)計(jì)方案。基于公共云的大模型技術(shù)實(shí)施服務(wù),包含數(shù)據(jù)準(zhǔn)備、工程效果優(yōu)化、集成指導(dǎo)、培訓(xùn)等,幫助客戶快速啟動大模型應(yīng)用和在業(yè)務(wù)中應(yīng)用大模型的產(chǎn)品技術(shù)能力。
3.2 大模型應(yīng)用咨詢服務(wù)項(xiàng)
服務(wù)內(nèi)容:阿里云針對客戶的業(yè)務(wù)目標(biāo),包含以下服務(wù):
服務(wù)項(xiàng) | 服務(wù)說明 |
場景需求調(diào)研 | 1.對客戶的需求進(jìn)行調(diào)研,確認(rèn)客戶業(yè)務(wù)痛點(diǎn)和大模型需求。 2.同步對現(xiàn)有的素材、知識庫和數(shù)據(jù)情況進(jìn)行確認(rèn)。 |
基礎(chǔ)設(shè)施調(diào)研 | 1.對基礎(chǔ)設(shè)施,包含計(jì)算資源、網(wǎng)絡(luò)情況、技術(shù)和產(chǎn)品架構(gòu)等進(jìn)行確認(rèn) 2.明確企業(yè)知識庫、數(shù)據(jù)庫、應(yīng)用API等場景需求素材來源端技術(shù)情況調(diào)研。 |
業(yè)務(wù)場景方案設(shè)計(jì) | 1.對場景的端到端解決方案進(jìn)行設(shè)計(jì)。 2.交付端產(chǎn)品設(shè)計(jì)方案。 |
3.3 大模型工程技術(shù)服務(wù)項(xiàng)
服務(wù)內(nèi)容:阿里云針對客戶的業(yè)務(wù)目標(biāo),包含以下服務(wù):
服務(wù)項(xiàng) | 服務(wù)說明 |
場景需求調(diào)研 | 1.對客戶的需求進(jìn)行調(diào)研,確認(rèn)客戶業(yè)務(wù)痛點(diǎn)和大模型需求。 2.同步對現(xiàn)有的素材、知識庫和數(shù)據(jù)情況進(jìn)行確認(rèn)。 |
基礎(chǔ)設(shè)施調(diào)研 | 1.對基礎(chǔ)設(shè)施,包含計(jì)算資源、網(wǎng)絡(luò)情況、技術(shù)和產(chǎn)品架構(gòu)等進(jìn)行確認(rèn)。 2.明確企業(yè)知識庫、數(shù)據(jù)庫、應(yīng)用API等場景需求素材來源端技術(shù)情況調(diào)研。 |
業(yè)務(wù)場景方案設(shè)計(jì) | 1.對場景的端到端解決方案進(jìn)行設(shè)計(jì)。 2.交付端產(chǎn)品設(shè)計(jì)方案。 |
技術(shù)實(shí)現(xiàn)架構(gòu)設(shè)計(jì) | 基于場景需求完成技術(shù)架構(gòu)方案設(shè)計(jì),確認(rèn)大模型的實(shí)施技術(shù)架構(gòu)。 |
數(shù)據(jù)和知識庫準(zhǔn)備 | 整理大模型所需的數(shù)據(jù)(知識庫)并形成清單,進(jìn)行數(shù)據(jù)和素材準(zhǔn)備工作。 |
大模型工程實(shí)施 | 1.按照技術(shù)架構(gòu)方案,完成RAG工程實(shí)施。 2.按照技術(shù)架構(gòu)方案,完成Agent工程實(shí)施。 |
效果優(yōu)化工程 | 1.大模型工程部署相關(guān)工作支持和鏈路測試。 2.進(jìn)行工程化調(diào)優(yōu)工作,包含提示詞優(yōu)化、SFT等。 3.最終效果呈現(xiàn)與驗(yàn)證。 |
試運(yùn)行支持 | 試運(yùn)行情況跟蹤和相關(guān)匯報(bào)工作。 |
4. 服務(wù)SLA
4.1 大模型應(yīng)用咨詢服務(wù)SLA
提供云上大模型技術(shù)咨詢服務(wù)技術(shù)經(jīng)理。
提供《大模型技術(shù)咨詢服務(wù)工作計(jì)劃書》及《大模型技術(shù)咨詢服務(wù)驗(yàn)收報(bào)告》。
4.2 大模型工程技術(shù)服務(wù)SLA
提供云上大模型技術(shù)實(shí)施服務(wù)技術(shù)經(jīng)理。
提供《大模型工程技術(shù)服務(wù)工作計(jì)劃書》及《大模型技術(shù)實(shí)施服務(wù)驗(yàn)收報(bào)告》。
5. 服務(wù)流程
5.1 大模型應(yīng)用咨詢服務(wù)流程
申請時間限制:客戶須至少應(yīng)于大模型應(yīng)用咨詢服務(wù)開始日之前提前15個自然日提出申請。
5.2 大模型工程技術(shù)服務(wù)流程
申請時間限制:客戶須至少應(yīng)于大模型工程技術(shù)服務(wù)開始日之前提前15個自然日提出申請。
6. 驗(yàn)收標(biāo)準(zhǔn)
6.1 大模型應(yīng)用咨詢服務(wù)驗(yàn)收標(biāo)準(zhǔn)
阿里云提供以下交付物,視為服務(wù)驗(yàn)收合格:
1.阿里云交付《大模型技術(shù)咨詢服務(wù)工作計(jì)劃書》及《大模型業(yè)務(wù)場景設(shè)計(jì)方案》,并獲得客戶書面確認(rèn)(含電子郵件形式)。
《大模型技術(shù)咨詢服務(wù)工作計(jì)劃書》及《大模型業(yè)務(wù)場景設(shè)計(jì)方案》,內(nèi)容包括:
服務(wù)開始之前,阿里云對對客戶的需求進(jìn)行調(diào)研,確認(rèn)客戶業(yè)務(wù)痛點(diǎn)和大模型需求。
基于客戶的業(yè)務(wù)特性和業(yè)務(wù)需求,阿里云就客戶業(yè)務(wù)提供大模型業(yè)務(wù)場景設(shè)計(jì)建議。
6.2 大模型工程技術(shù)服務(wù)驗(yàn)收標(biāo)準(zhǔn)
阿里云提供以下交付物,視為服務(wù)驗(yàn)收合格:
阿里云交付《大模型技術(shù)實(shí)施服務(wù)工作計(jì)劃書》及《大模型業(yè)務(wù)場景設(shè)計(jì)方案》、《大模型技術(shù)架構(gòu)方案》并獲得客戶書面確認(rèn)(含電子郵件形式)。
《大模型業(yè)務(wù)場景設(shè)計(jì)方案》和《大模型技術(shù)實(shí)施方案》。內(nèi)容包括:
服務(wù)開始之前,阿里云對對客戶的需求進(jìn)行調(diào)研,確認(rèn)客戶業(yè)務(wù)痛點(diǎn)和大模型需求。
基于客戶的業(yè)務(wù)特性和業(yè)務(wù)需求,阿里云就客戶業(yè)務(wù)提供大模型業(yè)務(wù)場景設(shè)計(jì)建議。
基于場景需求完成技術(shù)架構(gòu)方案設(shè)計(jì),確認(rèn)大模型的實(shí)施技術(shù)架構(gòu)。
整理大模型所需的數(shù)據(jù)(知識庫)并形成清單,進(jìn)行數(shù)據(jù)和素材準(zhǔn)備工作。
結(jié)合技術(shù)架構(gòu)方案,進(jìn)行工程實(shí)施(Rag實(shí)施、Agent實(shí)施)和效果調(diào)優(yōu)(提示詞調(diào)優(yōu)、按需SFT等)。
工程服務(wù)部署及SFT后模型部署相關(guān)工作支持和鏈路集成測試。
7. 完成標(biāo)志
實(shí)施結(jié)束并完成客戶驗(yàn)收工作。