量化速查：FP8、FP4、AWQ、GPTQ 和引擎怎么对上

规则来自量化精读和两篇选型文。同机三引擎 tokens/s 是待实测，不写在这页。

同页的 Markdown 原文可以下载。

先做什么 #

前缀缓存、推测解码、PagedAttention。这些是 11 章写的无损项。
质量可以让步时，默认 W8A8 FP8，再单独开 KV 的 FP8 或 4-bit。attention 留 FP16，除非有专用 kernel、长序列占比高、而且评测过。
每一档单独验收。两个改动一起上，出了问题归因不了。

选择	条件	笔记
FP8 权重 + FP8 KV	Hopper / Ada 有 FP8 Tensor Core，而且 KV 不留在 FP16	FP8 还是 FP4、 03 章
只压权重、KV 仍是 FP16	显存账通常守不住并发。70B / 8K / 32 并发那个例子是算账，不是客户数据	同上
FP4	Blackwell 才有对应 Tensor Core。字段错误率没压住就不要为了少一张卡	同上、 11 章
Ampere	不要把 FP8 算力写进承诺	03 章

11 章的检查清单仍然有效：格式有没有实测过的 kernel、激活量化了没有、KV 量化能不能关、长上下文和 MoE 配不配、硬件是不是 Hopper 或 Blackwell。