查看: 264|回复: 7

[转载] CNN网络参数--总结得挺好的

[复制链接]
论坛徽章:
4
智慧眼徽章
日期:2018-11-01 14:18:00python徽章
日期:2018-12-20 15:14:57智慧眼徽章
日期:2019-01-03 15:43:14智慧眼徽章
日期:2019-05-09 14:33:41
发表于 2019-5-26 06:48 | 显示全部楼层 |阅读模式

tm 网络 神经网络

卷积神经网络 LeNet-5各层参数详解LeNet论文阅读:LeNet结构以及参数个数计算




LeNet-5共有7层,不包含输入,每层都包含可训练参数;每个层有多个Feature Map,每个FeatureMap通过一种卷积滤波器提取输入的一种特征,然后每个FeatureMap有多个神经元。
1. C1是一个卷积层
输入图片:32*32
卷积核大小:5*5
卷积核种类:6
输出featuremap大小:28*28 (32-5+1)
神经元数量:28*28*6
可训练参数:(5*5+1)*6(其中5x5对应kernel size,+1为bias,6为feature map 数目)
连接数:(5*5+1)*6*28*28 (卷积核大小(每个格子一个参数)+bias)*卷积核种类*输出featureMap大小
2. S2层是一个下采样层
输入:28*28
采样区域:2*2
采样方式:4个输入相加,乘以一个可训练参数,再加上一个可训练偏置。结果通过sigmoid
采样种类:6



回复

使用道具 举报

新浪微博达人勋 xenron  实名认证
论坛徽章:
237
spark徽章
日期:2019-08-01 16:31:52Git徽章
日期:2019-08-01 16:32:03测试徽章
日期:2019-08-08 14:50:16股票徽章
日期:2019-08-16 09:59:13
发表于 2019-5-28 08:48 | 显示全部楼层
LeNet-5共有7层,不包含输入,每层都包含可训练参数;每个层有多个Feature Map,每个FeatureMap通过一种卷积滤波器提取输入的一种特征,然后每个FeatureMap有多个神经元。
回复 支持 反对

使用道具 举报

新浪微博达人勋 xenron  实名认证
论坛徽章:
237
spark徽章
日期:2019-08-01 16:31:52Git徽章
日期:2019-08-01 16:32:03测试徽章
日期:2019-08-08 14:50:16股票徽章
日期:2019-08-16 09:59:13
发表于 2019-5-28 08:48 | 显示全部楼层
输入是32x32pixel的图像,其中而数据库中是20x20的信息在28x28pixel的中心。拓展图像是为了高层特征可以位于高层感受野中心。例如图中A的上方的拐点,如果没有拓展图像输入,则其对应在S2中的位置很有可能位于feature map的最上方,无法处于任何感受野的中心。
回复 支持 反对

使用道具 举报

新浪微博达人勋 xenron  实名认证
论坛徽章:
237
spark徽章
日期:2019-08-01 16:31:52Git徽章
日期:2019-08-01 16:32:03测试徽章
日期:2019-08-08 14:50:16股票徽章
日期:2019-08-16 09:59:13
发表于 2019-5-28 08:49 | 显示全部楼层
AlexNet模型在训练时使用了两个GPU,所以就出现了一些参数为两个GPU共享,一些参数是GPU独享。
回复 支持 反对

使用道具 举报

论坛徽章:
0
发表于 2019-5-31 22:03 | 显示全部楼层
完全不懂,希望学习了之后会懂。
回复 支持 反对

使用道具 举报

论坛徽章:
17
Hadoop研习者中级
日期:2014-09-19 14:13:17Tensorflow徽章
日期:2019-06-06 16:18:03storm徽章
日期:2017-07-20 17:23:53mysql徽章
日期:2017-05-25 16:50:34大型分布式徽章
日期:2016-06-24 15:08:32matlab徽章
日期:2016-01-21 11:02:13matlab徽章
日期:2016-01-21 11:01:46Java徽章
日期:2015-12-10 10:07:49大型分布式徽章
日期:2015-09-25 17:35:14nosql徽章
日期:2015-07-16 10:57:52Oracle研习者中级
日期:2015-05-11 14:39:28机器学习徽章
日期:2015-03-02 14:31:17
发表于 2019-6-2 13:10 | 显示全部楼层
  两个gpu为什么要分不同的参数呢?
回复 支持 反对

使用道具 举报

论坛徽章:
19
机器学习徽章
日期:2018-06-14 15:36:16金融徽章
日期:2019-08-01 16:31:58python徽章
日期:2019-07-18 14:38:34金融徽章
日期:2019-07-04 16:47:56python徽章
日期:2019-05-09 14:27:39python徽章
日期:2019-05-09 14:27:01python徽章
日期:2019-04-04 17:06:25机器学习徽章
日期:2019-02-28 15:01:04Tensorflow徽章
日期:2019-01-24 16:03:07Kaggle徽章
日期:2019-01-17 14:41:44人工智能徽章
日期:2018-12-13 15:50:34金融徽章
日期:2018-09-13 15:38:56
发表于 2019-6-8 08:02 | 显示全部楼层
多谢楼主分享,希望能有更多的资料进行分享,谢谢啦。。。。。。。。
回复 支持 反对

使用道具 举报

新浪微博达人勋 ttim 实名认证
论坛徽章:
1
人工智能徽章
日期:2019-06-27 16:21:42
发表于 2019-6-9 10:32 | 显示全部楼层
多谢楼主分享,希望能有更多的资料进行分享,谢谢啦。。。。。。。。
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册 新浪微博登陆

本版积分规则

 

GMT+8, 2019-8-18 06:52 , Processed in 0.215269 second(s), 54 queries .