🎯 AI Infra 面试题库
高频面试真题
覆盖 GQA / FlashAttention / PagedAttention / MoE / 量化 / 分布式通信，10 道题持续更新。
01020304050607080910
困难量化量化GPTQAWQ
权重量化 GPTQ 和 AWQ 有什么区别？
9 0 0
困难推理系统推理系统Roofline面试高频
为什么说 LLM 解码阶段是 memory-bound？如何提升算术强度？
10 0 0
困难量化量化SmoothQuant面试高频
SmoothQuant 解决了激活量化的什么难题？
9 0 0
中等量化量化FP8NVIDIA
FP8 推理相比 INT8 有什么优势？为什么 2026 年越来越流行？
5 0 0
困难量化量化面试高频NVIDIA
量化中的 per-tensor、per-channel、per-token、per-group 量化粒度有何区别？
6 0 0
困难推理系统推理系统Roofline面试高频
什么是 arithmetic intensity（算术强度）？如何用 Roofline 模型分析 LLM 推理？
6 0 0
中等CUDACUDA面试高频NVIDIA
CUDA 中 warp、block、grid、SM 的关系是什么？
6 0 0
中等CUDACUDA面试高频NVIDIA
CUDA 中 Global Memory、Shared Memory、Register 的区别？为什么 kernel 优化要关注它们？
6 0 0
中等量化量化BF16FP16
BF16 和 FP16 有什么区别？训练/推理中如何选择？
5 0 0
中等推理系统推理系统硬件Roofline
为什么 LLM 推理常常是显存带宽瓶颈而非算力瓶颈？这对硬件选型有什么启示？
8 0 0