AI Infra 可视化学习课程

写给有 Linux / Kubernetes / 云原生 基础、但对 GPU 训练、推理、调度陌生的工程师(SRE、运维、平台工程)。目标:用一天建立直觉,再回硬核文档深入,支撑你转向 AI SRE / AI Infra 岗位。目录与 AI-fundamentals 1:1 对齐。

GitHub Pages 在线站点 14 课 + 41 加餐 · 面试五件套覆盖 14 岗 单文件 HTML · 无依赖 · 支持深浅色与手机 ⌘K 全站搜索
…
继续学习 →

🚀 快速开始(一天建立直觉)

第 1 课 · 硬件

GPU 是什么?

CPU/GPU 赛跑动画 · SM / Warp / Tensor Core / HBM

第 2 课 · 训练

训练是怎么回事?

训练循环五步动画 · 学习率交互(会发散)· 8 卡 AllReduce

第 3 课 · 推理

推理是怎么回事?

Prefill / Decode 动画 · KV Cache 开关对比 · TTFT/TPOT

第 4 课 · 调度

K8s 上跑 GPU

GPU Pod 六步旅程 · 整卡/时间片/MPS/MIG · SRE 概念映射

第 5 课 · 进阶

延迟金字塔

七层访存延迟交互 · "算不动 / 搬不动 / 送不到"定位法

第 6 课 · 进阶

并行策略

70B 怎么塞进 8 张卡 · DP/TP/PP/EP 切法动画 · 显存计算器

随身参考

术语图鉴

90 个黑话一句话解释 + SRE 类比 · 可搜索 · 思维导图

实操实验室

GPU 排障模拟器

伪终端亲手修三起"生产事故":找隐形进程 / 读 XID / 识破假忙

面试准备

面试自测题库

28 问 + 3 道系统设计 · 进度追踪 · 链回对应课程

🎓 更多入口:⌘K(或按 /)全站搜索 · 顶部"学习路线"看完整顺序 · 每页右上角有面包屑可跳上一课/下一课。

🧭 学习路线图 (点击阶段展开;✓ 进度自动保存在本机浏览器)

🧪 自测标准:能对同事讲清 —— ① 为什么训练 7B 单卡 80GB 放不下 ② 为什么 decode 慢在带宽不在算力 ③ nvidia.com/gpu 从 Pod 到卡经过了谁 ④ GPU-Util 90% 为什么不代表忙。答不上来就回对应课重看动画。

📚 完整课程目录(与上游仓库 1:1 对齐)

本目录逐篇覆盖上游 ForceInjection/AI-fundamentals 的章节。点章节名展开;右侧"读原文"是该主题的官方深度文档。

🎯 面试冲刺五件套(覆盖 14 类在招岗位)

① 输出检验

面试自测题库

28 问 + 3 道系统设计 · 答题要点 + 进度追踪(localStorage)· 每题链回对应课程

② 聊趋势

2026 趋势速览

Agent 负载 · 线性注意力 · CSA/HCA · HBF · 昇腾 · 每条配"面试怎么聊"

③ 讲指标

生产指标体系

四层健康账本:$/token → TTFT/TPOT SLO → MFU/批次 → SM Active/ECC

④ 对岗位

招聘 JD 对照表

2026 真实岗位要求逐条映射课程 · Slurm 速补 · 投递策略

⑤ 定路线

岗位全覆盖学习路线

14 岗 × 5 条线(SRE/推理/框架/存储/算子)· 就绪度矩阵 · 量化机构雇主池

🌐 GitHub 上值得跟的学习仓库

已整理成 外部教程地图——每个仓库的价值判断、覆盖内容与接入时机都在里面。

上游知识库 · 导航增强版

本课程对应的上游 AI-fundamentals 仓库(590+ 篇深度文档)的镜像站:菜单树 + 全文搜索 + 上一页/下一页,内容一字未改、每周自动同步。课程里建立直觉,点进对应章节深入。

datawhalechina(Datawhale)

中文开源学习社区。重点:happy-llm(从零理解 LLM)、llm-cookbook、self-llm(部署复现)。

microsoft/AI-System

微软《AI 系统》课程,系统视角讲 AI 栈,课件质量高。

chenzomi12/AISystem

ZOMI 酱 AI 系统全栈(硬件→编译器→推理),配 B 站视频。

NVIDIA/k8s-device-plugin · Project-HAMi/HAMi

生产组件源码,配合第 4 课精读。

build-your-own-x

"自己动手写 X"合集,做学习项目时选材。

Egonex-AI/Understand-Anything

把代码库变成交互知识图谱的工具(非教程),用图谱导航陌生代码。