🎯 AI Infra 面试题库
高频面试真题
覆盖 GQA / FlashAttention / PagedAttention / MoE / 量化 / 分布式通信，5 道题持续更新。
0102030405
中等AttentionAttentionGQAMQA
MHA、MQA、GQA 有什么区别？为什么现在主流用 GQA？
11 0 0
中等AttentionAttentionFlashAttention面试高频
FlashAttention 的核心思想是什么？它优化了什么？
8 0 0
中等AttentionAttention数值稳定面试高频
为什么 Softmax 需要做数值稳定处理（减去最大值）？
6 0 0
中等AttentionAttentionRoPE长上下文
RoPE（旋转位置编码）是什么？为什么利于长上下文外推？
7 0 0
困难AttentionAttentionKV CacheMLA
MLA（Multi-head Latent Attention）是什么？它如何减小 KV Cache？
6 0 0