首页推荐过的几个学习仓库,这里逐个给出"是什么 / 对你的价值 / 什么时候用"的判断结论——好教程不必重复造,接进路径就行。其中 AI 编译器主题已吸收为本站新课(见下)。
AI 系统全栈课程五卷:概述 → 芯片硬件 → AI 编译器 → 推理系统 → 框架核心技术(自动微分/计算图)。有完整文字版与视频。
判断:强烈推荐,且已吸收。它的 03Compiler(AI 编译原理)与 05Framework(计算图/自动微分)是本站此前没有的主题——已吸收成新课 《AI 编译器是怎么回事》,想深入时读它的原章(含 PyTorch 2.0 编译栈专章)。阶段 1-5 刷完后按需深入,视频适合通勤补课。
系统视角课程三段:基础(分布式训练、异构集群调度 Kubeflow/OpenPAI/Gandiva、推理系统 TensorRT/ONNX)→ 高阶(XLA/MLIR/TVM 编译、模型压缩、AutoML)→ 9 个动手实验(含 AllReduce 实现、CUDA 优化、调度系统)。
判断:值得精读两块——① 异构集群调度讲次(对照本站第 4 课,看"学术版"怎么讲 Gandiva 的 GPU 分时复用);② Labs 里的 AllReduce 实现实验(第 2 课环形动画的代码版)。LLM serving 未覆盖,别指望它替代本站推理章。英语阅读有压力时优先 ZOMI 版。
补阶段 3-4仓库 ↗
从零构建大模型:Transformer 手把手实现 → 用 PyTorch 手写 LLaMA2 → 训练 Tokenizer → 预训练 + SFT + LoRA/QLoRA 全流程,还放出了训练好的 215M 小模型可直接下载体验。
判断:动手线的最佳入口。本站偏"看得懂",它补"写得出来"——读完第 10 课后照着第 5 章手写一遍,概念全部落地。215M 小模型在你自己的机器上微调是绝佳的第一次训练体验(对比第 2 课的显存账:小模型全参微调单卡轻松放下)。
补阶段 4 动手仓库 ↗
《开源大模型食用指南》:50+ 主流模型(Qwen/GLM/DeepSeek/Llama…)的 Linux 环境配置 → 部署 → 微调步骤手册,另有 AMD ROCm / 昇腾 NPU / Apple MLX 硬件专区。
判断:当工具书,不当教程。步骤是"抄作业"级别地详细——你做 99 章任务卡(本地跑 7B)时,环境问题直接查它对应模型的章节。NPU 专区与上游昇腾系列呼应。
阶段 4-5 随用随查仓库 ↗
吴恩达大模型系列课程的中文版:Prompt Engineering、RAG、LangChain、微调、评估等 11 门课,中文 Prompt 已复现调优。
判断:按需选修。对转 AI Infra 的你不是主线,但第 8/9 课(RAG/Agent)想往应用层走一步时,它的 RAG 与 Agents 课程是最平缓的入口。必修 4 门里挑《Prompt Engineering》一门即可建立语感。
阶段 6 按需仓库 ↗
| 本站阶段 | 主线(本站课程) | 外部补充 |
|---|---|---|
| 0-3 · 直觉到运维 | 第 1-4 课 + 加餐 | 微软 AI-System 异构调度讲次(对照) |
| 4 · 训练 | 第 2 课 + 显存计算器 | happy-llm 从零手写 · self-llm 微调手册 · ZOMI 框架章 |
| 5 · 推理 | 第 3/5/6 课 + KV 计算器 | 微软推理系统讲次 · self-llm 部署手册 |
| 深化 | AI 编译器新课 | ZOMI 03Compiler · 微软 XLA/MLIR/TVM 讲次 |
| 6 · 应用与成本 | 成本速算 + 第 8/9 课 | llm-cookbook(按需) |
本页为资源导览与学习建议;外部课程版权归原作者,协议以各仓库为准(Datawhale 系多为 CC BY-NC-SA 非商用,微软课程 CC-BY/MIT,引用学习无碍)。