← 返回课程目录 · 加餐 · 云原生深入 · 承接第 4 课与 Gang 调度演示

HAMi 与 Kueue

第 4 课说过"K8s 对 GPU 没有硬隔离"。HAMi 补的是显存配额,Kueue 补的是队列与配额管理——两个问题,两层拼图。

一、动手:没有配额 vs 有配额

GPU0 · 80GB(HAMi 池化视角)
Pod A · 实际使用 12GB(申请 50GB)
空闲 30GB

GPU0 现状:Pod A 只申请了 50GB 里的 12GB,还剩 30GB 空闲。现在 Pod B 申请 10GB。

原生 K8s 视角:nvidia.com/gpu 资源里 GPU0 已被 A 整卡占走(没有细粒度),B 排队等下一张整卡。
点「提交 Pod B」,分别看开/关 HAMi 的结果。建议先关掉提交一次,再开着提交一次。

二、Kueue:队列与配额管理

Kueue 是什么

K8s 原生思路的作业队列:作业先进队列,按配额(ResourceFlavor / ClusterQueue)和优先级决定何时放行;配合调度器支持 Gang。

🧠 类比:CI 的 runner 池 + 团队配额,不让一个大作业吃光全队额度。

和 HAMi 怎么配合

Kueue 管"什么时候上、用哪个池子(整卡池/共享池)",HAMi 管"上了之后一张卡怎么分"。上游有两者集成的完整方案。

🧠 门卫管放行,管家管分房——各司其职。

三、组件对照表

组件解决的问题一句话定位
原生 Device Plugin整卡上报与分配只能数"几张卡",管不了"一张卡怎么分"
HAMi显存配额 + 算力切分 + vGPU 调度给 GPU 补 cgroup 式的硬约束(用户态拦截实现)
Kueue队列、优先级、团队配额、Gang 放行"谁先跑、能用多少"的资源治理层
Volcano批调度(Gang/公平性/队列)与 Kueue 定位相近,生态不同(见上游对比文)
MIG(硬件)硬件级隔离隔离最强但切法固定——HAMi 与它互补而非替代

四、小测验

Q1 · HAMi 的显存配额靠什么实现?

Q2 · 不开任何切分,Pod B 申请 10GB 会怎样?

Q3 · Kueue 与 Gang Scheduling 的关系?

延伸阅读(上游硬核版)