覆盖 GQA / FlashAttention / PagedAttention / MoE / 量化 / 分布式通信,4 道题持续更新。
Prefill 和 Decode 两个阶段有什么本质区别?分别是 compute-bound 还是 memory-bound?
MoE 模型推理有哪些特有的挑战?
DeepSeek MoE 的"共享专家 + 细粒度专家"设计有什么好处?
MLA(Multi-head Latent Attention)是什么?它如何减小 KV Cache?