分類

相關文檔

LLM推理

• 在ACK中快速體驗大語言模型

• 使用vLLM部署Qwen模型推理服務

• 使用rtp-llm部署Qwen模型推理服務

• 使用Triton部署Qwen模型推理服務

• 使用TGI部署Qwen模型推理服務

AIGC

• AI鏡像構(gòu)建及拉取加速方案

• 基于Knative的Stable Diffusion服務最佳實踐

• 搭建具備大模型和向量檢索功能的知識庫應用程序

• 使用CPU加速Stable Diffusion XL Turbo的文生圖推理

授權(quán)

授權(quán)最佳實踐

集群

• ECS選型推薦配置

• 集群高可用架構(gòu)推薦配置

• Kubernetes集群網(wǎng)絡規(guī)劃

• 大規(guī)模ACK Pro集群使用建議

• 提升ACK專有集群的etcd存儲容量上限

節(jié)點與節(jié)點池

• 節(jié)點池部署集最佳實踐

• 搶占式實例節(jié)點池最佳實踐

• 使用ContainerOS實現(xiàn)節(jié)點極速擴容

• 遷移游離節(jié)點至節(jié)點池

• 如何選擇Docker運行時、containerd運行時、或者安全沙箱運行時？

• 使用自定義鏡像創(chuàng)建CGroup V2節(jié)點

網(wǎng)絡

• 優(yōu)化大規(guī)模Terway集群NetworkPolicy的擴展性

• 搭建高性能網(wǎng)絡ACK集群

• 使用Gateway API訪問服務

• DNS最佳實踐

• Nginx Ingress Controller使用建議

應用管理

• 工作負載推薦配置

• AI鏡像構(gòu)建及拉取加速方案

• 搭建具備大模型和向量檢索功能的知識庫應用程序

• 在ACK集群中部署Jenkins并完成應用構(gòu)建和部署

• 使用GitLab CI運行GitLab Runner并執(zhí)行Pipeline

• 基于K8s多集群隔離環(huán)境下的DevOps實現(xiàn)

• ACK Serverless彈性低成本CI/CD

Knative

• 查看服務監(jiān)控告警

• 在Knative上實現(xiàn)日志采集

• 在Knative中使用ECI資源

• 在Knative中使用HPA

• 基于流量請求數(shù)實現(xiàn)服務自動擴縮容

• 通過阿里云Prometheus監(jiān)控查看Knative大盤

• 通過云效實現(xiàn)Knative服務持續(xù)交付

• 基于Knative的Stable Diffusion服務最佳實踐

存儲

• 使用Deployment創(chuàng)建臨時存儲

• 存儲多可用區(qū)部署的推薦配置

• 塊存儲限速最佳實踐

• 云盤存儲數(shù)據(jù)安全最佳實踐

• 云盤類型有狀態(tài)應用的跨可用區(qū)遷移

• 使用NVMe云盤多重掛載及Reservation

• 實現(xiàn)StatefulSet持久化存儲的最佳實踐-CSI

• OSS存儲讀寫分離最佳實踐

• 通過CNFS自動收集異常退出的JVM轉(zhuǎn)儲文件

• 配置本地存儲卷自動擴容

可觀測性

• 使用ACK Net Exporter定位網(wǎng)絡問題

• 使用Prometheus Client監(jiān)控應用

• 使用Prometheus配置報警規(guī)則的最佳實踐

• 使用SysOM定位容器內(nèi)存問題

成本套件

使用成本洞察實現(xiàn)成本管理及優(yōu)化

彈性伸縮

• 基于ack-autoscaling-placeholder實現(xiàn)容器秒級伸縮

• 彈性優(yōu)化之自定義鏡像

• 多可用區(qū)同時快速彈性擴容

• 在ACK上使用UnitedDeployment

• 通過ARMS APM應用監(jiān)控服務實現(xiàn)HPA彈性伸縮

• 基于GPU指標實現(xiàn)彈性伸縮

服務網(wǎng)格

• 通過ASM管理ACK虛擬節(jié)點上的ECI Pod應用

• 通過ASM管理注冊集群應用

• 使用ASM Serverless網(wǎng)關實現(xiàn)多集群入口

• 基于多集群實現(xiàn)跨地域容災和流量負載均衡

• 使用ASM指標實現(xiàn)工作負載的自動彈性伸縮

• 通過ASM入口網(wǎng)關訪問網(wǎng)格內(nèi)gRPC服務

微服務治理

微服務最佳實踐

圖形化應用

• Linux圖形應用最佳實踐

• Unity遠程渲染最佳實踐