杭州AI大模型运维工程师高端就业班

课程聚焦 AI 大模型应用部署与推理服务运维两大核心方向，采用**30% 理论讲解 + 70% 动手实操**教学模式，基于阿里云、Docker、Kubernetes、GitOps 企业真实技术链路，覆盖 RAG、GPU 调度、vLLM、Dify、MCP 等前沿技术。通过 3 套综合实战项目完整复刻岗位工作流程，训练大模型平台部署、监控调优、故障排查全流程能力，产出可用于求职的实操项目成果。

 核心亮点

1. **双能力主线**：同步掌握大模型应用部署、推理服务运维，构建完整技能链条。

2. **实操主导教学**：每日大量实操课时，侧重动手训练，拒绝纯理论灌输。

3. **真实企业技术栈**：阿里云、K8s、Prometheus、GitLab CI、Argo CD 等主流工具。

4. **大模型专项深度教学**：GPU 调度、DCGM、vLLM、模型量化、LiteLLM 网关运维。

5. **RAG 全链路实操**：文档处理、向量化检索、知识库问答、效果调优完整演练。

6. **项目实战贯穿全程**：部署‑监控‑验证‑交付综合项目，对标企业真实工作流程。

 学习内容模块

1. **Linux 与运维脚本基础**

Linux 服务器运维，Shell、Python 运维巡检脚本编写。

2. **容器与云原生 GitOps 体系**

Docker、Kubernetes 集群部署，GitLab CI+Argo CD 持续交付，Prometheus+Grafana 告警监控体系搭建。

3. **GPU 大模型推理运维**

NVIDIA GPU 环境部署、K8s GPU 调度，vLLM 推理服务，模型量化压缩，LiteLLM 统一模型网关。

4. **RAG 知识库全链路**

文档处理、Embedding 向量存储、检索策略、知识库问答搭建与效果验证。

5. **AI 应用平台运维**

Dify 自托管部署、MCP 服务接入、平台可观测、备份恢复运维实操。

6. **综合实战项目**

三套完整项目，覆盖部署、监控、验证、交付，训练岗位完整工作流程。

 学完可掌握能力

- 熟练完成 Linux 服务器、中间件、日志基础运维，可编写 Shell/Python 运维脚本

- 掌握容器化、K8s 集群部署，搭建 GitOps 持续交付、指标日志告警整套链路

- 精通 GPU 环境、K8s GPU 调度，完成 vLLM 分布式推理服务部署调优

- 掌握模型量化、模型网关运维，完成 RAG 知识库完整搭建与效果验证

- 能够完成 Dify、MCP 平台部署运维，具备企业 AI 大模型运维岗位实操能力