↓
zzszmyf
笔记
分类
标签
推测解码
2026
推测解码上线怎么验收？接受率与加速比怎么测
·
·
LLM推理优化
推测解码
n-gram 投机采样怎么做？不用草稿模型的加速方案
·
·
LLM推理优化
推测解码
EAGLE 推测解码为什么比 Medusa 快？（含 EAGLE-2 动态草稿树）
·
·
LLM推理优化
推测解码
Medusa 是什么？多头解码为什么能加速 LLM 推理
·
·
LLM推理优化
推测解码
投机采样原理是什么？草稿模型与拒绝采样怎么配合
·
·
LLM推理优化
推测解码
投机采样为什么是无损的？接受率与期望 token 公式推导
·
·
LLM推理优化
推测解码
投机采样与推测解码：6 篇精读笔记总览
·
·
LLM推理优化
推测解码
↑