卷积神经网络深度学习算法有哪些卷积神经网络

卷积神经网络时间:2021-01-16 阅读:()

卷积神经网络和深度神经网络的区别是什么

作者：杨延生链接：来源：知乎著作权归作者所有，转载请联系作者获得授权。

"深度学习"是为了让层数较多的多层神经网络可以训练，能够work而演化出来的一系列的新的结构和新的方法。

新的网络结构中最著名的就是CNN，它解决了传统较深的网络参数太多，很难训练的问题，使用了逗局部感受野地和逗权植共享地的概念，大大减少了网络参数的数量。

关键是这种结构确实很符合视觉类任务在人脑上的工作原理。

新的结构还包括了：LSTM，ResNet等。

新的方法就多了：新的激活函数：ReLU，新的权重初始化方法（逐层初始化，XAVIER等），新的损失函数，新的防止过拟合方法（Dropout, BN等）。

这些方面主要都是为了解决传统的多层神经网络的一些不足：梯度消失，过拟合等。

---------------------- 下面是原答案 ------------------------ 从广义上说深度学习的网络结构也是多层神经网络的一种。

传统意义上的多层神经网络是只有输入层、隐藏层、输出层。

其中隐藏层的层数根据需要而定，没有明确的理论推导来说明到底多少层合适。

而深度学习中最著名的卷积神经网络CNN，在原来多层神经网络的基础上，加入了特征学习部分，这部分是模仿人脑对信号处理上的分级的。

具体操作就是在原来的全连接的层前面加入了部分连接的卷积层与降维层，而且加入的是一个层级。

输入层 - 卷积层 -降维层 -卷积层 - 降维层 -- .... -- 隐藏层 -输出层简单来说，原来多层神经网络做的步骤是：特征映射到值。

特征是人工挑选。

深度学习做的步骤是信号->特征->值。

特征是由网络自己选择。

卷积神经网络连接表是怎么定义的

卷积神经网络就是将图像处理中的二维离散卷积运算和人工神经网络相结合。

这种卷积运算可以用于自动提取特征，而卷积神经网络也主要应用于二维图像的识别。

“深”的问题是一个不确定的概念，多少算深？有人认为除了输入层和输出层以外只包含一个隐层的神经网络就是浅层的，多个隐层的就是深层的。

按照这样的说法，一个卷积神经网络如果包含一个输入层，一个卷积层，一个输出层，那它就是浅层的。

但一般不这样用，何以然啊？使用卷积神经网络不断地去提取特征，特征越抽象，越有利于识别（分类）。

那我就一定要将卷积神经网络设计成深层的啊！而且通常卷积神经网络也包含池化层、全连接层，最后再接输出层。

我更倾向于叫它：深度卷积神经网络（Deep Convolutional Neural Network）。

所以，DCNN和DNN的区别主要就在于DCNN有卷积、池化层，多个卷积-池化单元构成特征表达，主要应用于二维图像识别。

最粗浅的理解就是：DCNN是带有二维离散卷积操作的DNN。