http://blog.csdn.net/han\_xiaoyang/article/details/50451460
http://m.blog.csdn.net/mzpmzk/article/details/52197329
CNN的特性
1、稀疏连接
图像的空间联系是局部的,就像人是通过一个局部的感受野去感受外界图像一样,每一个神经元都不需要对全局图像做感受,每个神经元只感受局部的图像区域,然后在更高层,将这些感受不同局部的神经元综合起来就可以得到全局的信息了。
输入层到卷积层:卷积层每个Feature Map中的一个神经元只和输入图像一个Filter(eg: 5*5)大小的区域相连接,而在传统神经网络中是全连接,这样就大大降低了参数数量。
卷积层到下采样层:下采样层每个Feature Map中的一个神经元只和相对应卷积层的每个Feature Map 的一个Filter(eg: 2*2)大小的区域相连接,属于一对一的下采样。
下采样层到卷积层:卷积层每个Feature Map中的一个神经元和下采样层中一个或几个Feature Map 的一个Filter(eg: 5*5)大小的区域相连接,相当于特征组合。
2、权重共享
Feature Map 上的每个神经元用的是同一个卷积核去卷积图像,这样就大大降低了参数数量。
3、空间或时间的下采样
假如Filter的大小为2*2,Stride为2,则通过下采样后卷积层的每4个像素变为1个像素。这样就可以在一定程度上降低参数的数目,防止过拟合。此处用到图像的局部相关性原理。
4、多卷积核
当只有1个卷积核时,显然,特征提取是不充分的,我们可以添加多个卷积核,比如20个卷积核,可以充分提取图像的特征。
多核卷积(即滤波器不同:低通、高通、带通、带阻…)—–得到多个局部特征(浅层)—–组合成全局特征(深层),每种滤波器的参数不一样,表示它提出输入图像的不同特征,例如不同的边缘。