基本信息

---

下载

文档摘要

---

2025年大模型推理缓存设计（含答案与解析）

一、单选题（共15题）

1.在大模型推理缓存设计中，以下哪种缓存策略能够有效减少内存占用并提高缓存命中率？

A.LRU（最近最少使用）缓存策略

B.FIFO（先进先出）缓存策略

C.LFU（最不经常使用）缓存策略

D.Random缓存策略

2.以下哪种方法可以显著提升大模型推理速度？

A.使用GPU加速

B.采用模型剪枝技术

C.使用分布式训练框架

D.以上都是

3.在设计大模型推理缓存时，以下哪种技术可以降低缓存延迟？

A.使用SSD存储

B.实施数据预取策略

C.采用内存映射文件

D.以上都是

4.在大模型推