CNN(卷积神经网络)、RNN(循环神经网络)、DNN(深度神经网络)的内部网络结构有什么区别?

CNN(卷积神经网络)、RNN(循环神经网络)、DNN(深度神经网络)的内部网络结构有什么区别?

2017年7月3日 更新

不同网络的区别:人们在网络中实现加入的先验知识的不同。

整体解释:公开课 | 深层神经网络设计理念 附带 ppt下载(无视频版)

神经网络入门:深层学习为何要“Deep”(上)

前馈神经网络引入的先验知识:并行、迭代;

循环神经网络引入的先验知识:时间共享;

循环神经网络引入的先验知识:空间共享;

深层学习的“深”字是由于将分类/回归和特征提取两者结合在一起来训练了。

Recurrent layer和convolutional layer都可以看成是特征提取层。

具体可以看下面的部分

简单理解神经网络应该分为两部分:

进一步理解围绕“深层”二字来神经网络的的话应该在网络结构中细分两类: 网络结构:

举例说明:比如图片识别。一个图片究竟是什么不仅取决于图片本身,还取决于识别者“如何观察”。

如果这是一个训练样本。