跳转至

Agent 推理服务

Agent 流量正在取代 Chat 成为主要负载,约束解码则给每一步生成加上一层「输出必须合法」的税。本目录收这两条线的深读:一条讲负载形态变了之后推理系统哪里会失效,一条讲结构化输出的性能账怎么算。

内容导航

相关链接