CPU 和 GPU 之间的"普通公路"。GPU 再快,数据过这条公路就得排队——看清它多窄、以及 CXL 想怎么拓宽它。
口径:PCIe x16 单向带宽 Gen3≈16 / Gen4≈32 / Gen5≈64 / Gen6≈128 GB/s(协议理论值,实际打 8-9 折)。这就是第 5 课金字塔里"过 PCIe 就掉一个量级"的数字来源。
数据先进 CPU 内存、CPU 再搬一次进 GPU:两次拷贝、两次占 CPU、带宽还只有 PCIe。
GPUDirect P2P / RDMA / Storage 三兄弟干的就是这件事——下一页细讲。
PCIe 的老问题:它只会"搬数据",不懂"共享内存"。CXL(Compute Express Link)建立在 PCIe 物理层之上,加上了缓存一致性协议——让 CPU 和设备像访问自己内存一样访问对方的内存。
显存贵且不够:KV Cache 卸载到"CPU 内存/扩展内存"是推理系统的主流玩法(第 3 课),CXL 让这条卸载路径延迟更低、语义更干净。
🧠 类比:给内存不够的机器外接一根"一致性内存条"。
按内存用(CXL.mem 池化)时,延迟仍高于本地内存一个档位——放"温数据"合适,放热路径要测。
🧠 类比:远端内存池 ≈ 网盘:能放,但别当本地盘跑热数据。
Q1 · PCIe Gen5 x16 单向理论带宽大约是?
Q2 · 没有 GPUDirect 时,网卡数据到 GPU 显存要经过谁?
Q3 · CXL 相对 PCIe 的核心增量是?