🎯 AI Infra 面试题库
高频面试真题
覆盖 GQA / FlashAttention / PagedAttention / MoE / 量化 / 分布式通信，5 道题持续更新。
0102030405
困难推理系统推理系统PrefillDecode
Prefill 和 Decode 两个阶段有什么本质区别？分别是 compute-bound 还是 memory-bound？
10 0 0
中等推理系统推理系统性能指标面试高频
TTFT、TPOT、吞吐量分别衡量什么？它们之间如何权衡？
9 0 0
困难推理系统推理系统Roofline面试高频
为什么说 LLM 解码阶段是 memory-bound？如何提升算术强度？
9 0 0
困难推理系统推理系统Roofline面试高频
什么是 arithmetic intensity（算术强度）？如何用 Roofline 模型分析 LLM 推理？
4 0 0
中等推理系统推理系统硬件Roofline
为什么 LLM 推理常常是显存带宽瓶颈而非算力瓶颈？这对硬件选型有什么启示？
6 0 0