基本信息
文件名称:2024龙蜥大会生态案例分论坛:Anolis OS基于国产硬件平台AI大模型部署实践.docx
文件大小:8.37 MB
总页数:23 页
更新时间:2025-03-06
总字数:约5.09千字
文档摘要

AnolisOS基于国产硬件平台AI大模型部署实践

纪笑旭

中科曙光系统工程师

01

大模型概述

?大模型应用模式

?大模型应用场景

?大模型带来的挑战

02

国产硬件平台解决方案

?国产加速卡一览

?某国产硬件平台AI生态

?全场景解决方案

03

应用实践案例

?大模型研发

?集群训练调优

?国产化替代

大模型概述

近年来每个月AI模型发布数量一览

来自DataLearner:/ai-models/models-overview-by-months

主流Transformer架构

仅保留Decoder解码器仅保留E