数据来源:2026 年在招的真实岗位(腾讯 AI Infra SRE-大模型推理、腾讯推理优化、阿里 AI Infra 计算/训练基础架构、滴滴训练存储/模型服务化、字节推理框架、B 站推理优化、算能、NVIDIA TRT-LLM)。逐条对照本站课程——绿=已覆盖,橙=部分覆盖,红=缺口与补法。
| JD 原文关键词 | 出现岗位 | 本站对应 | 状态 |
|---|---|---|---|
| 熟悉 vLLM / SGLang | 腾讯、滴滴、B站、算能、NVIDIA | vLLM 一张图 · SGLang 一张图 | ✅ 覆盖 |
| 熟悉 TensorRT-LLM | 腾讯、滴滴、NVIDIA | 引擎三选一(本页新增) | ✅ 已补 |
| PagedAttention / Continuous Batching / KV Cache 原理 | 几乎全部 | Batching 加餐 · 第 3 课 · KV 计算器 | ✅ 覆盖 |
| 量化 GPTQ / AWQ / FP8 | 腾讯、B站、NVIDIA | 量化小白版(含算法名与坑) | ✅ 覆盖 |
| TTFT / 吞吐量 / 显存占用优化 | B站、滴滴 | 指标体系 · PD 分离 · 成本速算 | ✅ 覆盖 |
| 自定义算子 / PyTorch 扩展机制 | 算能、NVIDIA、字节 | CUDA 算子入门(本站新页:第一个 Kernel + 五周路线) + 上游 02 章 | ✅ 入口已建 |
| 多模态模型部署(加分项) | 腾讯、字节 | 无专页——面试按"视觉编码器+LLM,瓶颈在图像 token 化"一句话带过即可 | 🟠 一句话策略 |
| JD 原文关键词 | 出现岗位 | 本站对应 | 状态 |
|---|---|---|---|
| NCCL 原理深刻理解 / 通信机制 | 阿里(训练架构) | NCCL 加餐(busbw 对照法) | ✅ 覆盖 |
| 千卡/万卡集群调度经验 | 阿里、腾讯 | Gang 演示 + NVLink 域("万卡"=拓扑感知+故障率账) | ✅ 覆盖(经验需岗位积累) |
| 分布式训练(DP/TP/PP/EP) | 普遍 | 第 6 课 · 第 2 课 | ✅ 覆盖 |
| 训练/推理存储 IO 性能 | 滴滴(训练存储) | 存储三篇一页通 | ✅ 覆盖 |
| K8s 生态 / 容器化 | 阿里云容器方向 | 第 4 课 · HAMi/Kueue | ✅ 覆盖 |
| PyTorch / 框架源码级 | 字节、百度 | 训练框架地图(本站新页:DDP/FSDP/DeepSpeed/Megatron + ZeRO 交互);源码级 happy-llm 动手 | ✅ 框架地图已建 |
| 训练失败定位:收敛 / 拖尾(straggler) / 通信开销 / OOM,"讲清排查过程" | 外资 HFT 自营 MLE·训练系统向(港/悉尼,猎头帖) | 框架地图 + 训练作业排障(新页) | ✅ 覆盖(经验需动手积累) |
| C++ / Python / 算法与并发 | 普遍(硬门槛) | 非本站职责——刷题与语言功底按传统路径准备 | 🟠 课前置 |
| JD 原文关键词 | 本站对应 | 状态 |
|---|---|---|
| Prometheus + Grafana + DCGM-Exporter 监控体系 | 运维速查 · 指标四层账本 | ✅ 覆盖 |
| GPU 故障诊断(XID / ECC / NVLink) | 排障模拟器(三起事故实操) | ✅ 覆盖 |
| 驱动 / CUDA 版本维护 | 第 4 课"版本对齐"专题 + 运维速查 | ✅ 覆盖 |
| Slurm 作业调度(HPC 集群常见) | 本站无专页 → 用下面补丁知识 + 一句话定位应付初面 | 🔴 缺口(下方补) |
| 昇腾/国产算力经验(加分) | NPU 生态对照 · 趋势⑥ | ✅ 覆盖 |
| 量化机构 Infra / SRE / DevOps(在招明确写"互联网大厂、量化同业经验") | 路线页 · 量化板块 + 本站第 3/4 章运维全链 | ✅ 线 1 直接对口 |
| K8s 概念(你熟的) | Slurm 对应 | 一句话 |
|---|---|---|
| Job / Deployment | sbatch 提交的作业 | sbatch train.sh 提交,squeue 看队列 |
| Gang Scheduling(Volcano/Kueue) | 原生默认行为 | Slurm 生于 HPC:作业要 N 个节点,凑不齐就整体排队——天生 Gang |
| ResourceQuota / requests | --gres=gpu:8 等资源声明 | GPUs are just "generic resources",按节点分配 |
| kubectl describe | scontrol show job | 查作业细节;scancel 取消 |
| 节点池/标签 | Partition 分区 | --partition=a100 把作业投到特定硬件池 |
| 优先级/抢占 | PriorityType / QOS | 多租户配额与优先级,和 Kueue 的 ClusterQueue 思想同源 |
面试一句话:"Slurm 和 K8s 解决同一件事的两个面——批作业调度 vs 常驻服务编排;我的 K8s 经验里 Gang/配额/拓扑这一套,映射到 Slurm 就是它原生的作业模型 + gres + partition。" 深入:NVIDIA DCGM×Slurm 作业级统计 · Slurm 官方 Quick Start
JD 来源(2026-10 检索):腾讯 AI Infra SRE · 腾讯推理优化 · 阿里 AI Infra 计算 · 阿里训练架构 · 滴滴训练存储 · 滴滴模型服务化 · 字节推理框架 · B 站推理优化 · NVIDIA TRT-LLM · 量化机构(XTX/Jane Street 等)作为额外雇主池已并入 路线页;HFT MLE 训练系统向 JD 见 猎头帖(2026-10-27)。