CETCI中国电科
大模型时代:类脑智能赋能电力应用场景的新模式
中国电子科技南湖研究院蔡炎松
2025年4月
CETC中国电科
目录
CONTENTS
一类脑计算的背景与优势
二类脑计算的布局和成果
三类脑计算与大模型融合
一、类脑计算的背景与优势
CEIC中国电科
大数据、多样性、变化快、关联多,80%非结构化冯诺依曼架构瓶颈
摩尔定律变缓,物理微缩带来的性能红利不可持续
大模型拉开数据和算力竞争序幕,训练和应用带来巨大的能源消耗
CETC中国电科
冯·诺依曼架构瓶颈
6300万美元57.9兆千瓦时电量9000吨碳
5400个美国家庭1年用电1800辆汽车1年排放
当前现状:高计算量和能源消耗
e
Mgia
awoAin
lgo
L
5sh
口高算力需求(每两个月翻一番)口现有窄人工智能局限
一、类脑计算的背景与优势
口存储墙、功耗墙瓶颈口摩尔定律失效
人工智能高速发展
训练一次GPT4
③moe
muI
wcm
12
CETC中国电科
生物智能
人工智能痛点:鲁棒性和泛化能力
一、类脑计算的背景与优势
被动接受训练好奇心驱使的主动学习
当前人工智能生物智能
自适应和鲁棒性差,难适应复杂环境强自然环境适应性
物理理解缺失
(Sora视频生成失败案例)
当前人工智能与生物智能还有很大的距离
(大模型需要TB量级训练样本)
当前人工智能
样本利用效率极低
极小样本可运作
强物理直觉知识
口狭义类脑计算(Brain-likecomputing):侧重对生物脑网络形态的模拟(neuromorphic
computing),比如脉冲神经网络(SNN)、脑仿真、STDPlearning等。
口广义类脑计算(Brain-inspiredComputing):
核心在于对生物脑的借鉴,不仅仅局限于神经形态模拟,还可融合传统人工神经网络(ANN),以及更多受脑启发的网络构建理论,是一种融合计算机科学和神经计算科学的发展途径。
一、类脑计算的背景与优势CETC中国电科
类脑智能
生物脑的计算特性
存-算一体
分布式计算
空-时处理
稀疏计算
低功耗高效并行计算架构
生物脑的智能机理
多簇网络结构神经元动力学
突触可塑性
认知、记忆能力
类人脑的学习能力
类脑智能
生物脑科学原理、计算机科学原理融合发展的新型计算
类脑计算是国际半导体协会认定的重点发展方向之一
类脑计算架构被认为是继CPU/GPU之后应对人工智能挑战的新一类芯片架构
数据来源:Intel《TakingNeuromorphicComputingtotheNextLevelwithLoihi2》
基于脑启发的时空融合
架构实现智能计算
存算一体
控制流与数据流融合
众核并行,同步/异步流水
一、类脑计算的背景与优势
类脑计算架构:能效优势
基于单一强大核心处理复杂计算问题
存算分离
控制流架构复杂控制逻辑精细流水处理指令级并行
逻辑简单的并行计算
存算分离
控制流架构简化控制逻辑大量并行计算单元高吞吐
CETC中国电科
类脑计算
基于大量简易核心处理
GPU
CPU
传统
全局梯度更新
类脑
Muliscaleopimization
本地-全局协同学习
前向传播
高度回环
CPU
存算分离
存算一体
一、类脑计算的背景与优势:挖掘生物智能的天然能效优势CETC中国电科
类脑智能优势:计算范式+网络结构+学习理论
理论基础
算法模型
芯片形态
1000亿神经元规模的智能系统
CPU超算约790万瓦
人脑约20瓦
视觉-语言大模型增强学习
创作生成
限领域
增强学习
多模态基础
大模型
通用、快适应强化学习
具身大模型
通用世界模型
?
从自然环境中自学习
认知智能涌现
感知
智能涌现
仿生强学习方法
展望:脑启发的通用智能
现有人工神经网络越来越多结合脑启发理论与技术
当前人工智能(基础大模型)路线
好奇心/内在驱动仿生学习机制(能量学习、本
地学习)主动推断
神经元、突触
动力学原理
概念学习
预测编码
认知神经科学路线
认知活动下脑成像分析(MRI/DTI)
大规模脑连接图谱测定
神经生理学
(脑科学)路线
一、类脑计算的背景与优势:挖掘生物智能的天然能效优势
功能级脑