🎯 AI Infra 面试题库
高频面试真题
覆盖 GQA / FlashAttention / PagedAttention / MoE / 量化 / 分布式通信，8 道题持续更新。
0102030405060708
中等serving推理系统PagedAttentionvLLM
PagedAttention 解决了什么问题？原理是什么？
8 0 0
中等serving推理系统Continuous BatchingvLLM
什么是 Continuous Batching（连续批处理）？相比静态批处理有何优势？
11 0 0
中等serving推理系统Prefix CachingvLLM
什么是 Prefix Caching / 前缀缓存？在什么场景收益大？
8 0 0
困难serving推理系统Chunked PrefillvLLM
Chunked Prefill 是什么？解决了什么问题？
10 0 0
困难serving推理系统vLLM面试高频
vLLM 中一个请求被"抢占"（preemption）是怎么回事？如何缓解？
5 0 0
困难serving推理系统RadixAttentionSGLang
RadixAttention（SGLang）相比 vLLM 的 prefix caching 有什么不同？
4 0 0
中等serving推理系统vLLM面试高频
Continuous Batching 下，如何设置 max-num-seqs 和 max-num-batched-tokens？
5 0 0
中等serving推理系统vLLM面试高频
gpu-memory-utilization 参数设置为什么不能设成 1.0？
7 0 0