pytorch 求网络模型参数实例
作者:月亮是蓝色 时间:2021-12-08 08:41:11
用pytorch训练一个神经网络时,我们通常会很关心模型的参数总量。下面分别介绍来两种方法求模型参数
一 .求得每一层的模型参数,然后自然的可以计算出总的参数。
1.先初始化一个网络模型model
比如我这里是 model=cliqueNet(里面是些初始化的参数)
2.调用model的Parameters类获取参数列表
一个典型的操作就是将参数列表传入优化器里。如下
optimizer = optim.Adam(model.parameters(), lr=opt.lr)
言归正传,继续回到参数里面,参数在网络里面就是variable,下面分别求每层的尺寸大小和个数。
函数get_number_of_param( ) 里面的参数就是刚才第一步初始化的model
def get_number_of_param(model):
"""get the number of param for every element"""
count = 0
for param in model.parameters():
param_size = param.size()
count_of_one_param = 1
for dis in param_size:
count_of_one_param *= dis
print(param.size(), count_of_one_param)
count += count_of_one_param
print(count)
print('total number of the model is %d'%count)
再来看看结果:
torch.Size([64, 1, 3, 3]) 576
576
torch.Size([64]) 64
640
torch.Size([6, 36, 64, 3, 3]) 124416
125056
torch.Size([30, 36, 36, 3, 3]) 349920
474976
torch.Size([12, 36]) 432
475408
torch.Size([6, 36, 216, 3, 3]) 419904
895312
torch.Size([30, 36, 36, 3, 3]) 349920
1245232
torch.Size([12, 36]) 432
1245664
torch.Size([6, 36, 216, 3, 3]) 419904
1665568
torch.Size([30, 36, 36, 3, 3]) 349920
2015488
torch.Size([12, 36]) 432
2015920
torch.Size([6, 36, 216, 3, 3]) 419904
2435824
torch.Size([30, 36, 36, 3, 3]) 349920
2785744
torch.Size([12, 36]) 432
2786176
torch.Size([216, 216, 1, 1]) 46656
2832832
torch.Size([216]) 216
2833048
torch.Size([108, 216]) 23328
2856376
torch.Size([108]) 108
2856484
torch.Size([216, 108]) 23328
2879812
torch.Size([216]) 216
2880028
torch.Size([216, 216, 1, 1]) 46656
2926684
torch.Size([216]) 216
2926900
torch.Size([108, 216]) 23328
2950228
torch.Size([108]) 108
2950336
torch.Size([216, 108]) 23328
2973664
torch.Size([216]) 216
2973880
torch.Size([216, 216, 1, 1]) 46656
3020536
torch.Size([216]) 216
3020752
torch.Size([108, 216]) 23328
3044080
torch.Size([108]) 108
3044188
torch.Size([216, 108]) 23328
3067516
torch.Size([216]) 216
3067732
torch.Size([140, 280, 1, 1]) 39200
3106932
torch.Size([140]) 140
3107072
torch.Size([216, 432, 1, 1]) 93312
3200384
torch.Size([216]) 216
3200600
torch.Size([216, 432, 1, 1]) 93312
3293912
torch.Size([216]) 216
3294128
torch.Size([9, 572, 3, 3]) 46332
3340460
torch.Size([9]) 9
3340469
total number of the model is 3340469
可以通过计算验证一下,发现参数与网络是一致的。
二:一行代码就可以搞定参数总个数问题
2.1 先来看看torch.tensor.numel( )这个函数的功能就是求tensor中的元素个数,在网络里面每层参数就是多维数组组成的tensor。
实际上就是求多维数组的元素个数。看代码。
print('cliqueNet parameters:', sum(param.numel() for param in model.parameters()))
当然上面代码中的model还是上面初始化的网络模型。
看看两种的计算结果
torch.Size([64, 1, 3, 3]) 576
576
torch.Size([64]) 64
640
torch.Size([6, 36, 64, 3, 3]) 124416
125056
torch.Size([30, 36, 36, 3, 3]) 349920
474976
torch.Size([12, 36]) 432
475408
torch.Size([6, 36, 216, 3, 3]) 419904
895312
torch.Size([30, 36, 36, 3, 3]) 349920
1245232
torch.Size([12, 36]) 432
1245664
torch.Size([6, 36, 216, 3, 3]) 419904
1665568
torch.Size([30, 36, 36, 3, 3]) 349920
2015488
torch.Size([12, 36]) 432
2015920
torch.Size([6, 36, 216, 3, 3]) 419904
2435824
torch.Size([30, 36, 36, 3, 3]) 349920
2785744
torch.Size([12, 36]) 432
2786176
torch.Size([216, 216, 1, 1]) 46656
2832832
torch.Size([216]) 216
2833048
torch.Size([108, 216]) 23328
2856376
torch.Size([108]) 108
2856484
torch.Size([216, 108]) 23328
2879812
torch.Size([216]) 216
2880028
torch.Size([216, 216, 1, 1]) 46656
2926684
torch.Size([216]) 216
2926900
torch.Size([108, 216]) 23328
2950228
torch.Size([108]) 108
2950336
torch.Size([216, 108]) 23328
2973664
torch.Size([216]) 216
2973880
torch.Size([216, 216, 1, 1]) 46656
3020536
torch.Size([216]) 216
3020752
torch.Size([108, 216]) 23328
3044080
torch.Size([108]) 108
3044188
torch.Size([216, 108]) 23328
3067516
torch.Size([216]) 216
3067732
torch.Size([140, 280, 1, 1]) 39200
3106932
torch.Size([140]) 140
3107072
torch.Size([216, 432, 1, 1]) 93312
3200384
torch.Size([216]) 216
3200600
torch.Size([216, 432, 1, 1]) 93312
3293912
torch.Size([216]) 216
3294128
torch.Size([9, 572, 3, 3]) 46332
3340460
torch.Size([9]) 9
3340469
total number of the model is 3340469
cliqueNet parameters: 3340469
可以看出两种计算出来的是一模一样的。
来源:https://blog.csdn.net/lyl771857509/article/details/84112950
标签:pytorch,网络模型,参数
![](/images/zang.png)
![](/images/jiucuo.png)
猜你喜欢
Python中新式类与经典类的区别详析
2022-02-04 05:11:16
python检测某个变量是否有定义的方法
2021-05-17 18:45:01
用python自动生成日历
2022-08-28 14:28:58
![](https://img.aspxhome.com/file/2023/4/72174_0s.png)
用JS实现渐变效果,兼容各款浏览器
2008-09-13 19:10:00
将mater库中的系统存储过程批量生成*.sql文件 通用且非常实用
2012-06-06 20:03:43
Python 类的私有属性和私有方法实例分析
2021-06-18 05:13:47
在MySQL中获得更好的全文搜索结果
2008-05-09 10:38:00
Web设计的成就感
2009-09-04 19:02:00
Python数据模型与Python对象模型的相关总结
2021-05-15 02:21:43
ASP+MSSQL2000 数据库被批量注入后的解决方法第1/2页
2011-04-06 10:50:00
Python编程入门之Hello World的三种实现方式
2021-10-04 12:27:03
教你制作1px边框表格的四种方法
2008-10-04 10:16:00
详解python编程slice与indices函数用法示例
2021-03-23 05:13:22
Python 常用模块threading和Thread模块之线程池
2022-02-20 05:39:08
![](https://img.aspxhome.com/file/2023/0/86580_0s.png)
javascript权威指南,学习笔记,之运算符号
2008-04-20 16:43:00
在任意字符集下正常显示网页的方法一
2023-10-12 05:20:46
sql server如何得到插入一条记录后最新的ID?
2009-11-15 20:06:00
python实现的B站直播录制工具
2023-05-29 00:51:48
VS Code有哪些奇技淫巧(必知)
2022-01-07 21:10:47
![](https://img.aspxhome.com/file/2023/7/100847_0s.png)
python实现贪吃蛇双人大战
2022-10-10 19:18:37
![](https://img.aspxhome.com/file/2023/1/69561_0s.jpg)