人工神经网络设计08卷积神经网络
目录卷积神经网络基积神经网络结构及其学习算法典型卷积神经网络应用实例
01卷积神经网络基础卷积神经网络(CNN)是一类包含卷积计算且具有深度结构的前馈神经网络,以其出色的性能和广泛的应用而闻名。?卷积神经网络概述起源与发展:CNN起源可以追溯到20世纪60年代,但直到21世纪初,随着深度学习技术的兴起,才在图像识别和处理领域展现出显著优势。深度学习的催化剂:CNN凭借其在图像识别任务上的卓越性能,成为了深度学习领域的重要催化剂,推动了整个AI行业的发展。结构与优势:作为前馈神经网络的一种,CNN尤其在处理具有网格结构的数据(如图像)时表现出色。3图8-1卷积过程示意图
01卷积神经网络基础卷积运算是卷积神经网络的核心操作。通过卷积操作,卷积神经网络能够从输入数据中提取特征并逐层构建更为抽象的表示。??卷积运算4
01卷积神经网络基础例8-1假设有两个连续时间函数f(t)和g(t),它们分别定义如下:f(t)=e?|t|,g(t)=δ(t?1),计算这两个函数的卷积(f?g)(t)。?卷积运算?5
01卷积神经网络基础?卷积运算离散域:卷积定义为两个序列的逐点乘积后的求和?对于输出序列中的每一个元素,我们都将输入序列x[n]与卷积核w[n]进行对齐,然后将对应的元素相乘,并将所有乘积求和得到当前位置的输出值。这个过程对所有可能的对齐方式进行,从而得到输出序列的每一个元素。?如果将一张图像或其他二维数据作为输入,使用一个二维的卷积核w,则卷积运算的输出为6
01卷积神经网络基础例8-2假设有两个离散时间序列f[n]和g[n],定义如下:f[n]={1,2,3},g[n]={4,5}。计算这两个序列的卷积(f?g)[n]。?卷积运算?7
01卷积神经网络基础与普通神经网络相比,卷积神经网络有着独特的卷积层(ConvolutionLayer)和池化层(PoolingLayer),本小节将通过卷积层和池化层对卷积神经网络中的基本概念进行介绍。?卷积神经网络的基本概念8图8-2卷积网络结构示意图
01卷积神经网络基础卷积层是卷积神经网络中最关键的一层,也是“卷积神经网络”名字的由来。卷积核是一个小的权重矩阵,整个卷积运算便是通过它来实现的。它在输入数据(如图像)上滑动,计算核与数据局部区域之间的点积,从而产生特征图。卷积核像是一个过滤器,通过它可以捕捉到输入数据中的特定模式或特征。?卷积层局部感受野指卷积核覆盖的输入数据的局部区域。每个卷积核只与输入数据的一小部分相连接,有助于网络有效地学习空间层次结构。权重共享在同一输入数据的不同空间位置上进行卷积时,权重在整个数据上是共享的,大大减少了网络的复杂性。步长卷积核在输入数据上滑动的步幅。步长决定了卷积核移动的间距,从而影响到输出特征图的大小和计算效率。9
01卷积神经网络基础例8-3假设有一个5×5的输入矩阵,以及一个3×3的卷积核。在步长为1和2时,分别进行卷积操作。?卷积层将卷积核在输入矩阵上按照步长进行滑动。对于每一次滑动,计算对应位置的元素相乘并求和,填入输出矩阵R中对应位置。以第一个元素为例,R[0,0]=(1×1)+(0×2)+(0×3)+(0×6)+(1×7)+(0×8)+(0×11)+(0×12)+(1×13)=1+0+0+0+7+0?13=?5,之后的其他元素可依次得到。当步长为1时,卷积后结果的尺寸为3×3;当步长为2时,卷积结果的尺寸为2×2。10图8-3步长为1的卷积结果图8-4步长为2的卷积结果
01卷积神经网络基础例8-4假设有一个3×3的输入矩阵,以及一个2×2的卷积核,在输入矩阵周边做1行或1列0填充步长为1,进行卷积操作。?卷积层将3×3输入图的4个边界填充0后,卷积输出的尺寸变为4×4,分辨率没有降低。为了控制卷积输出的尺寸,一般会使用填充操作。常见的填充方法为按0填充和重复边界值填充。填充不仅保持了输出尺寸,还使得卷积运算更加灵活和可控。11图8-5一行/列0填充的卷积结果
01卷积神经网络基础卷积层中的特征图通常由多个图层组成。特征图大小为C×H×W,由C个H×W大小的特征构成。C为通道数,指代特征的数量或深度。通道数的大小直接影响了卷积神经网络的特征提取能力和计算复杂度。增加通道数,可以增强CNN的特征提取能力,但也会增加计算复杂度。?卷积层假设输入特征图大小是Ci×Hi×Wi,输出特征图大小是Co×Ho×Wo。则每个输出特征图都由Ci个卷积核进行逐通道卷积,然后将结果相加,一共需要Ci×Co个卷积核,每Ci个为一组,共Co组。12图8-6特征图示意图
01卷