一台 8 卡机器,两个训练作业 + 一个推理服务排队。切换"普通 / Gang"两种调度器跑一遍,看区别在哪。
| 组件 | 定位 | 一句话 |
|---|---|---|
| K8s 默认调度器 | 逐 Pod 调度 | 每个 Pod 独立找位子——适合无状态服务,不适合"全员到齐才能跑"的训练作业(就是左边"普通"模式) |
| Volcano | 批调度器 | 提供 Gang Scheduling、队列、公平性——AI 训练集群的常用选择 |
| Kueue | 作业队列 + 配额 | K8s 原生思路的队列管理,管"谁先跑、用多少配额",配合调度器做 Gang |
| HAMi | GPU 池化 / 切分 | 管的是"一张卡怎么分给多个任务"(显存配额、vGPU),和上面管"任务什么时候上"互补 |