第 4 课说过"K8s 对 GPU 没有硬隔离"。HAMi 补的是显存配额,Kueue 补的是队列与配额管理——两个问题,两层拼图。
GPU0 现状:Pod A 只申请了 50GB 里的 12GB,还剩 30GB 空闲。现在 Pod B 申请 10GB。
K8s 原生思路的作业队列:作业先进队列,按配额(ResourceFlavor / ClusterQueue)和优先级决定何时放行;配合调度器支持 Gang。
🧠 类比:CI 的 runner 池 + 团队配额,不让一个大作业吃光全队额度。
Kueue 管"什么时候上、用哪个池子(整卡池/共享池)",HAMi 管"上了之后一张卡怎么分"。上游有两者集成的完整方案。
🧠 门卫管放行,管家管分房——各司其职。
| 组件 | 解决的问题 | 一句话定位 |
|---|---|---|
| 原生 Device Plugin | 整卡上报与分配 | 只能数"几张卡",管不了"一张卡怎么分" |
| HAMi | 显存配额 + 算力切分 + vGPU 调度 | 给 GPU 补 cgroup 式的硬约束(用户态拦截实现) |
| Kueue | 队列、优先级、团队配额、Gang 放行 | "谁先跑、能用多少"的资源治理层 |
| Volcano | 批调度(Gang/公平性/队列) | 与 Kueue 定位相近,生态不同(见上游对比文) |
| MIG(硬件) | 硬件级隔离 | 隔离最强但切法固定——HAMi 与它互补而非替代 |
Q1 · HAMi 的显存配额靠什么实现?
Q2 · 不开任何切分,Pod B 申请 10GB 会怎样?
Q3 · Kueue 与 Gang Scheduling 的关系?