读完课程十课后,vLLM 的架构图应该已经"每一层都眼熟"。本页是导读:架构分层 + 上游系列文章的阅读顺序。
每一层都对应课程里的一课——这就是"先建直觉再读源码"路线的意义。
| 场景 | 第一反应 |
|---|---|
| 吞吐不达标 | 查 batch 利用率与 KV Pool 占用(容量计算器口径),再查是否启用 prefix caching |
| 显存 OOM | max-model-len / gpu-memory-utilization 两旋钮;长上下文查 KV 涨幅(第 3 课红线) |
| TTFT 抖动 | Chunked Prefill 是否开启;是否被长 prompt 的 prefill 阻塞 decode |
| 启动慢 | 权重加载占大头(FAST'26 论文:可达 79% 延迟)——查存储路径与页缓存 |