UltraPoolingGenAIRackScale系统架构技术规范ODCC-2024-04003
[编号ODCC-2024-04003]
UltraPoolingGenAI
RackScale系统架构
技术规范
开放数据中心标准推进委员会
2024.09发布
1
UltraPoolingGenAIRackScale系统架构技术规范ODCC-2024-04003
目录
版权声明I
编写组II
前言IV
目录VI
一、引言1
二、数据中心架构的演进3
（一）集中式架构时代4
（二）分布式架构的兴起5
（三）云原生架构的革命7
（四）GenAI应用加速RackScale架构技术的演进8
（五）面向未来的数据中心10
三、生成式人工智能技术基础11
（一）技术基础11
（二）应用领域12
（三）机遇与挑战13
四、RackScale系统架构原理13
五、RackScale架构与GenAI的协同14
（一）协同机制15
（二）协同优势15
六、GenAIRackScale系统架构技术及参考方案16
（一）GenAI应用定义RackScale系统架构17
1.优化于GenAI大规模训练业务应用的系统架构20
VI
UltraPoolingGenAIRackScale系统架构技术规范ODCC-2024-04003
2.企业级GenAI典型应用定义多并发可扩展系统架构22
（二）GenAIFabric及基于OCS的光电混合网络架构技术26
（三）GenAI服务器系统RAS架构设计29
（四）GenAI系统架构中的先进液冷技术及解决方案33
（五）GenAI可持续和可扩展碳优化计算36
（六）GenAIRackScale系统安全架构设计37
七、UltraPoolingGenAIRackScale系统架构实现方案40
八、典型应用案例42
（一）腾讯音乐AI帮唱模型43
（二）百度GenAI内容审核45
（三）UltraPoolingGenAIRackScale系统架构实践：京东、英特尔和嘉实多等
联合开发的边缘冷板液冷AI一体机47
九、未来发展趋势48
十、结论与建议49
十一、参考文献50
十二、致谢51
VII
UltraPoolingGenAIRackScale系统架构技术规范ODCC-2024-04003
UltraPoolingG