← 返回课程目录 · 系列导读 · 国产算力栈

NPU 与 CUDA 生态对照

昇腾是国产 AI 算力的主线。你已有的 CUDA 心智不必推倒——生态逐层对照着学,迁移成本比想象的小。

一、生态逐层对照表

框架层
PyTorch / MindSpore
PyTorch(torch_npu 适配)/ MindSpore
运行时与算子库
CUDA / cuDNN / cuBLAS
CANN / ACL / 算子库(AOL)
编程语言
CUDA C++ / TileLang
Ascend C / TileLang 昇腾后端
硬件执行单元
SM · CUDA Core · Tensor Core
AI Core · Cube(矩阵)+ Vector(向量)
显存
HBM
HBM(同源技术路线)
推理引擎生态
vLLM / SGLang / TensorRT-LLM
MindIE / vLLM-Ascend / DeepSeek 昇腾栈
性能分析
Nsight
msprof / MindStudio Insight

最大架构差异:昇腾把"矩阵计算(Cube)与向量计算(Vector)"拆成两类独立单元,卷积/矩阵走 Cube、其余走 Vector——写算子时要想着"这份活该给谁"。

二、关键词卡

CANN

华为的异构计算架构(对标 CUDA 全家桶):驱动、运行时、算子库、编译器的统称。

🧠 昇腾世界的"CUDA 生态总名"。

torch_npu

PyTorch 的昇腾后端插件:代码几乎不用改,换设备名即可把训练/推理搬到 NPU。

🧠 类比 AMD 的 ROCm PyTorch 插件路线。

Da Vinci 架构

昇腾 AI Core 的微架构:Cube 矩阵单元 + Vector 向量单元 + 标量单元,L1/L0 缓存分层。

🧠 对照第 1 课:CUDA Core/Tensor Core 的昇腾分工版。

DeepSeek 昇腾开源栈

DeepSeek 把生产推理栈搬上昇腾:TileLang/DeepGEMM/DeepEP 等 6 组件的昇腾版,绑定 Ascend 950。

🧠 观察"顶级生产负载迁移 NPU"的风向标,上游有逐仓拆解。

三、上游 14 个子模块怎么读

上游 02_npu_programming/ 有 01 环境 → 02 架构 → 03 PyTorch 适配 → 04 MindSpore → 05 工具 → 06 算子 → 07-13 实战(RAG/FlashAttention/Mini-GPT/推理/DDP/微调/量化)→ 08 Profiling 的完整路径。运维向建议只走三条线:

  1. Da Vinci 架构与 CANN —— 对照第 1 课读
  2. LLM 推理 on NPU —— 一个完整落地案例
  3. DeepSeek 昇腾开源栈拆解 —— 生产级迁移样本(在推理章)