深度学习框架TensorFlow深入学习、TensorBoard可视化-10|AI资源分享
作者:YZCAI / 2016-08-14 11:55 / 浏览次数:
Padding模式
目标
tensorflow
卷积神经网络算法
就是降采样subsample,shrink,减少计算负荷,内存
使用,参数数量(也可防
tensorflow
止过
深度神经网络
拟合)
减少输入图片大小也
卷积神经网络算法
tensorflow
使得神经网络可以经受一点图片平移
,不受位置的影响
卷积神经网络算法
正如卷积神经网络一样,在池化层中的每个神经元被连接
到上面一层输出的神经元,只
tensorflow
深度神经网络
对应一小块感受野的区域。
卷积神经网络算法
我们必须定义大小,步长,padding类型
池化神经元没有权重值,它只是聚合输入根据取最
深度神经网络
tensorflow
大或者
是求均值
2*2的池化核,步长为2,没有填充,只有最大值往下传递
卷积神经网络算法
深度学习框架TensorFlow深入学习、TensorBoard可视化-10|AI资源分享-图1
,其他输入被丢弃掉了
池化Pooling
池化Pooling
深度神经网络
深度神经网络
tensorflow
和宽两倍小,面积4倍小
深度学习框架TensorFlow深入学习、TensorBoard可视化-10|AI资源分享-图2
卷积神经网络算法
,丢掉75%的输入值
一般
卷积神经网络算法
情况下,池化层工作于每一个独立的输入通道,所以
输出的深度和输入的深度相同
池化Pooling
典型的CNN架构堆列一
深度神经网络
tensorflow
些卷积层
卷积神经网络算法
一般一个卷积层后跟ReLU层,然后是一个池化层,然后另
一些个卷积层+ReLU层,然后另一个池化层,通过网络传
递的图
tensorflow
片越来越小,但是也越来越深,例如更多的特征图
深度神经网络

最后常规的前向反
卷积神经网络算法
馈神经网络被
深度神经网络
添加,由一些全连接的层
卷积神经网络算法

+ReLU层组成,最后是输出层预测,例如一个softmax层输
出预测的
深度神经网络
类概率
一个常见的误区是使用卷积核过大,你可以使用和9*9的核
同样效果的两个3*3的核,好处是会有更少
卷积神经网络算法
的参数需要被计
tensorflow
算,还可
tensorflow
深度神经网络
以在中间多加一个非线性激活函数ReLU,来提供
卷积神经网络算法
CNN架构
CNN架构
top-five错误率是测试图片系统判断前5个类别预测都没有
包含正确答案的数量
5年间,由于好的CNN模型的诞生,错误率从26%降到了
3%
Top
深度学习框架TensorFlow深入学习、TensorBoard可视化-10|AI资源分享-图3
5 error
LeNet-5
深度神经网络
架构,1998年
卷积神经网络算法
AlexNet,2012年
GoogLeNet,20
卷积神经网络算法
tensorflow
14
深度神经网络

ResNet,2015年
经典模型
LeNet-5
最知名的CNN架构,Yann
卷积神经网络算法
tensorflow
LeCun在1998年
深度神经网络
深度神经网络
tensorflow
创建,广泛应
用于MNIST手写体识别
Padding使
卷积神经网络算法
得28*28的图变成32*32
使用均值池化
C3层只连接3或者4个S2的图
tensorflow
最后一
深度神经网络
tensorflow
层是欧式距离测量输入向量和
它的对应权值向量距离
卷积神经网络算法

现在一般
tensorflow
用交叉熵更好,
tensorflow
惩罚错误的预测
更多,提供大的梯度,因此收敛
深度神经网络
更快
Layer Type
卷积神经网络算法
Map
深度神经网络
tensorflow
深度神经网络
Size Kernel size
卷积神经网络算法
Stride
卷积神经网络算法
Activation
Out Fully
卷积神经网络算法
tensorflow
Collected — 10 — — RBF
F6 Fully
深度神经网络
Collected — 84 — — tanh
C5 Convolution 120
卷积神经网络算法
1x1 5X5
深度学习框架TensorFlow深入学习、TensorBoard可视化-10|AI资源分享-图4
1 tanh
S4 Avg
tensorflow
Pooling 16 5X5 2X2 2 tanh
C3
深度神经网络
Convolution 16 10x10 5X5
卷积神经网络算法
1 tanh
S2 Avg
tensorflow
深度神经网络
Pooling 6 14x14 2X2 2 tanh
C1 Convolution 6 28x28 5X5
深度神经网络
卷积神经网络算法
tensorflow
1 tanh
In Input 32x32 — — —
深度神经网络

【AI网站】人工智能、机器学习、深度学习、神经网络、大数据、培训课程、各大框架、视频学习、学习路线
热门资讯
右侧公益栏目

AI学习

备案号:个人网站备案号