基本信息

---

下载

文档摘要

---

端侧大模型的安全建设

如何在算力与保障之间找到平衡

2024

目录

模型推理方式：端侧模型推理方式：服务器或云端

模型推理方式：端侧

模型推理方式：服务器或云端

AI大模型

AI大模型

端侧大模型

模型训练方式：数据中心或云端模型训练方式：云端

模型训练方式：数据中心或云端

模型训练方式：云端

VS

参数量：多为百亿/千级别参数量：多为十亿级别

参数量：多为百亿/千级别

参数量：多为十亿级别

预估未来4年，端侧大模型市场每年会以40～50%的增长率保持快速增长

90

79 单位:亿

61

60

47

31

30

21

8

0

2023 2024E 2025E 2026E 2027E 202