基本信息
文件名称:2024龙蜥大会生态案例分论坛:Anolis OS基于国产硬件平台AI大模型部署实践.docx
文件大小:8.37 MB
总页数:23 页
更新时间:2025-03-06
总字数:约5.09千字
文档摘要
AnolisOS基于国产硬件平台AI大模型部署实践
纪笑旭
中科曙光系统工程师
01
大模型概述
?大模型应用模式
?大模型应用场景
?大模型带来的挑战
02
国产硬件平台解决方案
?国产加速卡一览
?某国产硬件平台AI生态
?全场景解决方案
03
应用实践案例
?大模型研发
?集群训练调优
?国产化替代
大模型概述
近年来每个月AI模型发布数量一览
来自DataLearner:/ai-models/models-overview-by-months
主流Transformer架构
仅保留Decoder解码器仅保留E