首页 文章

如何计算AlexNet的参数数量?

提问于
浏览
14

我还没有找到AlexNet的参数计算(权重偏差),所以我试着计算它,但我不确定它是否正确:

conv1:(11 * 11)* 3 * 96 96 = 34944

conv2:(5 * 5)* 96 * 256 256 = 614656

conv3:(3 * 3)* 256 * 384 384 = 885120

conv4:(3 * 3)* 384 * 384 384 = 1327488

conv5:(3 * 3)* 384 * 256 256 = 884992

fc1:(6 * 6)* 256 * 4096 4096 = 37752832

fc2:4096 * 4096 4096 = 16781312

fc3:4096 * 1000 1000 = 4097000

这导致总量为62378344的参数 . 这个计算对吗?

3 回答

  • 1

    根据他们论文中的图表,一些层使用分组 . 因此,并非一个层的所有功能都与下一个功能通信 . 这意味着例如对于conv2,您应该只有(5 * 5)* 48 * 256 256 = 307,456功能 .

    我不确定所有较新的实现是否包括分组 . 这是他们用来让网络在两个GPU上并行训练的优化,但现代GPU拥有更多的培训资源,可以轻松地适应网络而无需分组 .

  • 3

    你的计算是正确的 . 我们在编写this blog post时独立提出了完全相同的数字 . 我还从帖子中添加了决赛桌

    enter image description here

  • 2

    本演示文稿中的幻灯片8表示它有60M参数,所以我认为你至少在球场 . http://vision.stanford.edu/teaching/cs231b_spring1415/slides/alexnet_tugce_kyunghee.pdf

相关问题