AI Infra Academy
🎯 AI Infra 面试题库

高频面试真题

覆盖 GQA / FlashAttention / PagedAttention / MoE / 量化 / 分布式通信,5 道题持续更新。

01
困难decoding解码策略投机解码面试高频

什么是投机解码(Speculative Decoding)?为什么能加速且不损失质量?

9 0 0
02
困难decoding解码策略投机解码面试高频

Speculative Decoding 中 draft model 如何选择?draft 长度 k 如何权衡?

5 0 0
03
困难decoding解码策略MedusaEagle

Medusa 和 Eagle 相比传统投机解码有什么改进?

4 0 0
04
困难decoding解码策略投机解码面试高频

为什么大 batch 下投机解码收益会下降?

4 0 0
05
中等decoding解码策略采样面试高频

解码采样中 temperature、top-k、top-p(nucleus)分别控制什么?

4 0 0