← 返回课程目录 · 实验室 · 配合第 4 课使用

Gang 调度演示

一台 8 卡机器,两个训练作业 + 一个推理服务排队。切换"普通 / Gang"两种调度器跑一遍,看区别在哪。

等待队列 / 状态

⏱ 已仿真 0s 🔥 空转浪费 0 GPU·s
场景:GPU6-7 已被常驻推理占用;随后 作业A(4卡·训练)、作业B(4卡·训练)、服务C(2卡·推理) 先后到达。训练作业 4 个副本必须全到位才能开跑。选模式后点「运行」。
作业A(训练 4 卡)
作业B(训练 4 卡)  服务C(推理 2 卡)
空闲  空转等待中(烧钱不干活)

谁在管这件事

组件定位一句话
K8s 默认调度器逐 Pod 调度每个 Pod 独立找位子——适合无状态服务,不适合"全员到齐才能跑"的训练作业(就是左边"普通"模式)
Volcano批调度器提供 Gang Scheduling、队列、公平性——AI 训练集群的常用选择
Kueue作业队列 + 配额K8s 原生思路的队列管理,管"谁先跑、用多少配额",配合调度器做 Gang
HAMiGPU 池化 / 切分管的是"一张卡怎么分给多个任务"(显存配额、vGPU),和上面管"任务什么时候上"互补
延伸阅读(上游):GPU 调度问题总览 · Kueue + HAMi 集成 · KAI vs HAMi 对比