基本信息

---

下载

文档摘要

---

2025年大模型推理缓存设计（含答案与解析）

一、单选题（共15题）

1.在大模型推理缓存设计中，以下哪种缓存策略能有效减少内存占用并提升缓存命中率？

A.最少使用（LRU）缓存策略

B.随机缓存策略

C.最不频繁更新（LFU）缓存策略

D.先进先出（FIFO）缓存策略

2.为了优化大模型推理性能，以下哪种技术可以实现模型参数的实时更新？

A.分布式训练框架

B.持续预训练策略

C.模型并行策略

D.云边端协同部署

3.在设计大模型推理缓存时，以下哪种方法可以减少缓存数据的大小，从而提高缓存效率？

A.模型量化（INT8/FP16）

B.知识蒸馏

C.结构剪枝