AI Infra Academy
🎯 AI Infra 面试题库

高频面试真题

覆盖 GQA / FlashAttention / PagedAttention / MoE / 量化 / 分布式通信,3 道题持续更新。

01
困难kv-cacheKV Cache长上下文量化

长上下文推理时 KV Cache 爆显存,有哪些压缩/优化手段?

12 0 0
02
困难系统设计系统设计推理系统PD分离

Prefill/Decode 分离(Disaggregation)架构的动机和挑战是什么?

5 0 0
03
困难系统设计系统设计推理系统Mooncake

Mooncake 的以 KV Cache 为中心的架构有什么特点?

6 0 0