← 返回课程目录 · 面试准备 · 趋势篇

2026 AI Infra 趋势速览

面试官常问"你关注哪些新趋势"。这七个方向是当前推理系统与集群侧的真实变化——每条给你是什么、对系统意味着什么、面试怎么聊三层。深入阅读都指到上游精读文章。

① Agent 流量取代 Chat 成为主要负载影响:调度/缓存/容量公式

编程 Agent、深度研究 Agent 的流量结构完全不同于聊天:超长系统提示词、多轮工具调用循环、会话生命周期极长、请求间强依赖。

对系统的冲击:KV 生命周期错配(缓存为"下一轮"保留却常常等不到)、调度语义失真(并发公式按独立请求设计)、会话粘性(路由必须把后续轮次送回持有 KV 的实例)。

💬 面试角度:拿"传统并发公式为什么在 Agent 负载下失效"切入,能直接展示体系理解。

深读:当 Agent 流量成为推理系统的主要负载

② 注意力架构演进:MLA → CSA/HCA影响:KV 体积与引擎实现

DeepSeek V4 与 Kimi K3 从架构层面重写注意力:1M 上下文的 KV 从 250GB 量级压到个位数 GB——旧叙事("KV 很大所以要拼命优化")正在改写。

对系统的冲击:单层绝对量小到极点后,杠杆从"每层压多少"转向"几层共用一份";一个 token 的状态从连续张量变成一组异构池。

💬 面试角度:说明白"KV 压缩只是把问题换了位置"——这句判断本身就是加分项。

深读:KV 压缩推到极限 · 从 MLA 到 CSA+HCA 演进

③ 线性注意力:没有 KV Cache 的模型来了影响:推理系统全链路

delta-rule 一脉(KDA/Gated DeltaNet,Qwen3-Next 与 Kimi K3 采用)用固定大小状态替代逐 token 增长的 KV——"显存随上下文线性涨"的前提被打破。

对系统的冲击:prefill 从并行变串行(状态要按序更新)、前缀缓存重写为"状态检查点"、状态池成为新的硬并发上限——第 3 课的整套 KV 账本要按新口径重算。

💬 面试角度:这是"KV Cache 决定并发"叙事的最新反例,提它说明你跟进的是 2026 的系统问题而不是 2023 的。

深读:线性注意力与推理系统(总览+三篇深挖)

④ PD 分离 + KV 分层成为生产标配影响:集群架构

DeepSeek 生产系统、Mooncake、llm-d 把"Prefill/Decode 分池 + KV 多层存储/传输"从论文变成了默认架构选项。

对系统的冲击:运维对象多了一层"KV 的生命周期管理"(谁持有、何时搬、怎么淘汰);PD 配比本身成了容量规划的新变量。

💬 面试角度:必考题——本站 PD 分离小白版 的交互与临界点分析直接可用。

深读:DeepInfer 源码拆解(155 万亿 tokens/天的引擎)

⑤ 新内存介质:HBF 加入战局影响:硬件选型

Hot Chips 2026 上 HBF(容量比 HBM 便宜 8-16 倍、带宽只有 1/25)引发"是不是廉价 HBM"之争——折算带宽单价反而更贵,只在一个很窄的低带宽区间划算。

对系统的冲击:介质选型要用 $/token 公式算而不是 $/GB——KV 分层存储的"冷层"多了一个候选,但必须过带宽这关。

💬 面试角度:能讲"单位容量便宜≠单位带宽便宜"这层换算,说明你有成本思维。

深读:HBF 是 HBM 的替代吗

⑥ 国产算力栈成熟:昇腾进入生产推理影响:技能面

DeepSeek 把生产栈(TileLang/DeepGEMM/DeepEP 等)搬上昇腾,vLLM-Ascend/MindIE 生态可用性提升——国产 GPU/NPU 不再只是"备胎"叙事。

对工程师:CUDA 心智可以平移(生态逐层对照见本站 NPU 页),但版本对齐、算子覆盖差异是真实的坑。

💬 面试角度:国内岗位加分项——对照着讲"我了解 CANN 与 CUDA 的映射关系"比只说"用过"有分量。

深读:DeepSeek 昇腾开源栈拆解 · 本站 NPU 生态对照

⑦ 条件记忆与固定容量记忆影响:内存层级设计

两条新路线:DeepSeek V4.1-Flash 的 Engram 把静态知识参数搬进主机内存(LPDDR)用 O(1) 查表替代多层重建;EdgeRock-4B 用 1024 token 局部窗口+1024 条锚点把历史记忆固定在 97.76MiB。

对系统的冲击:"上下文必须全在显存"的假设松动——主机内存、固定状态池成了推理架构的一等公民。

💬 面试角度:冷门但极新的话题,一句话"记忆的容量-带宽权衡正在重演存储层级的历史"即可点亮。

深读:Engram 条件记忆源码深读

趋势判断的底线:面试聊趋势时给出你的判断和理由,而不是罗列名词——每条"对系统的冲击"就是判断的素材。数字均来自上游精读文章的厂商口径,引用时注明出处。