基本信息
文件名称:2025年大模型推理缓存策略(含答案与解析).docx
文件大小:14.6 KB
总页数:9 页
更新时间:2025-09-05
总字数:约6.23千字
文档摘要

2025年大模型推理缓存策略(含答案与解析)

一、单选题(共15题)

1.以下哪项技术在大模型推理缓存策略中用于减少内存占用?

A.数据压缩

B.模型剪枝

C.模型量化

D.知识蒸馏

2.在大模型推理缓存策略中,以下哪种方法可以显著提升缓存命中率?

A.LRU(最近最少使用)缓存算法

B.FIFO(先进先出)缓存算法

C.LFU(最不常用)缓存算法

D.随机缓存算法

3.在大模型推理缓存策略中,以下哪种方法可以减少缓存访问时间?

A.分布式缓存

B.单机缓存

C.云缓存

D.硬盘缓存

4.以下哪项技术在大模型推理缓存策略中用于优化缓存数据的存储格式?

A.