写给有 Linux / Kubernetes / 云原生 基础、但对 GPU 训练、推理、调度陌生的工程师(SRE、运维、平台工程)。目标:用一天建立直觉,再回硬核文档深入,支撑你转向 AI SRE / AI Infra 岗位。目录与 AI-fundamentals 1:1 对齐。
CPU/GPU 赛跑动画 · SM / Warp / Tensor Core / HBM
第 2 课 · 训练训练循环五步动画 · 学习率交互(会发散)· 8 卡 AllReduce
第 3 课 · 推理Prefill / Decode 动画 · KV Cache 开关对比 · TTFT/TPOT
第 4 课 · 调度GPU Pod 六步旅程 · 整卡/时间片/MPS/MIG · SRE 概念映射
第 5 课 · 进阶七层访存延迟交互 · "算不动 / 搬不动 / 送不到"定位法
第 6 课 · 进阶70B 怎么塞进 8 张卡 · DP/TP/PP/EP 切法动画 · 显存计算器
随身参考90 个黑话一句话解释 + SRE 类比 · 可搜索 · 思维导图
实操实验室伪终端亲手修三起"生产事故":找隐形进程 / 读 XID / 识破假忙
面试准备28 问 + 3 道系统设计 · 进度追踪 · 链回对应课程
nvidia.com/gpu 从 Pod 到卡经过了谁 ④ GPU-Util 90% 为什么不代表忙。答不上来就回对应课重看动画。本目录逐篇覆盖上游 ForceInjection/AI-fundamentals 的章节。点章节名展开;右侧"读原文"是该主题的官方深度文档。
28 问 + 3 道系统设计 · 答题要点 + 进度追踪(localStorage)· 每题链回对应课程
② 聊趋势Agent 负载 · 线性注意力 · CSA/HCA · HBF · 昇腾 · 每条配"面试怎么聊"
③ 讲指标四层健康账本:$/token → TTFT/TPOT SLO → MFU/批次 → SM Active/ECC
④ 对岗位2026 真实岗位要求逐条映射课程 · Slurm 速补 · 投递策略
⑤ 定路线14 岗 × 5 条线(SRE/推理/框架/存储/算子)· 就绪度矩阵 · 量化机构雇主池
已整理成 外部教程地图——每个仓库的价值判断、覆盖内容与接入时机都在里面。
本课程对应的上游 AI-fundamentals 仓库(590+ 篇深度文档)的镜像站:菜单树 + 全文搜索 + 上一页/下一页,内容一字未改、每周自动同步。课程里建立直觉,点进对应章节深入。
中文开源学习社区。重点:happy-llm(从零理解 LLM)、llm-cookbook、self-llm(部署复现)。
微软《AI 系统》课程,系统视角讲 AI 栈,课件质量高。
ZOMI 酱 AI 系统全栈(硬件→编译器→推理),配 B 站视频。
"自己动手写 X"合集,做学习项目时选材。
把代码库变成交互知识图谱的工具(非教程),用图谱导航陌生代码。