画pytorch模型图,以及参数计算的方法

作者:月落乌啼silence 时间:2023-09-25 09:12:58 

刚入pytorch的坑,代码还没看太懂。之前用keras用习惯了,第一次使用pytorch还有些不适应,希望广大老司机多多指教。

首先说说,我们如何可视化模型。在keras中就一句话,keras.summary(),或者plot_model(),就可以把模型展现的淋漓尽致。

但是pytorch中好像没有这样一个api让我们直观的看到模型的样子。但是有网友提供了一段代码,可以把模型画出来,对我来说简直就是如有神助啊。

话不多说,上代码吧。


import torch
from torch.autograd import Variable
import torch.nn as nn
from graphviz import Digraph

class CNN(nn.Module):
 def __init__(self):
   super(CNN, self).__init__()
   self.conv1 = nn.Sequential(
     nn.Conv2d(in_channels=1, out_channels=16, kernel_size=5, stride=1, padding=2),
     nn.ReLU(),
     nn.MaxPool2d(kernel_size=2)
   )
   self.conv2 = nn.Sequential(
     nn.Conv2d(in_channels=16, out_channels=32, kernel_size=5, stride=1, padding=2),
     nn.ReLU(),
     nn.MaxPool2d(kernel_size=2)
   )
   self.out = nn.Linear(32*7*7, 10)

def forward(self, x):
   x = self.conv1(x)
   x = self.conv2(x)
   x = x.view(x.size(0), -1) # (batch, 32*7*7)
   out = self.out(x)
   return out

def make_dot(var, params=None):
 """ Produces Graphviz representation of PyTorch autograd graph
 Blue nodes are the Variables that require grad, orange are Tensors
 saved for backward in torch.autograd.Function
 Args:
   var: output Variable
   params: dict of (name, Variable) to add names to node that
     require grad (TODO: make optional)
 """
 if params is not None:
   assert isinstance(params.values()[0], Variable)
   param_map = {id(v): k for k, v in params.items()}

node_attr = dict(style='filled',
          shape='box',
          align='left',
          fontsize='12',
          ranksep='0.1',
          height='0.2')
 dot = Digraph(node_attr=node_attr, graph_attr=dict(size="12,12"))
 seen = set()

def size_to_str(size):
   return '('+(', ').join(['%d' % v for v in size])+')'

def add_nodes(var):
   if var not in seen:
     if torch.is_tensor(var):
       dot.node(str(id(var)), size_to_str(var.size()), fillcolor='orange')
     elif hasattr(var, 'variable'):
       u = var.variable
       name = param_map[id(u)] if params is not None else ''
       node_name = '%s\n %s' % (name, size_to_str(u.size()))
       dot.node(str(id(var)), node_name, fillcolor='lightblue')
     else:
       dot.node(str(id(var)), str(type(var).__name__))
     seen.add(var)
     if hasattr(var, 'next_functions'):
       for u in var.next_functions:
         if u[0] is not None:
           dot.edge(str(id(u[0])), str(id(var)))
           add_nodes(u[0])
     if hasattr(var, 'saved_tensors'):
       for t in var.saved_tensors:
         dot.edge(str(id(t)), str(id(var)))
         add_nodes(t)
 add_nodes(var.grad_fn)
 return dot

if __name__ == '__main__':
 net = CNN()
 x = Variable(torch.randn(1, 1, 28, 28))
 y = net(x)
 g = make_dot(y)
 g.view()

params = list(net.parameters())
 k = 0
 for i in params:
   l = 1
   print("该层的结构:" + str(list(i.size())))
   for j in i.size():
     l *= j
   print("该层参数和:" + str(l))
   k = k + l
 print("总参数数量和:" + str(k))

模型很简单,代码也很简单。就是conv -> relu -> maxpool -> conv -> relu -> maxpool -> fc

大家在可视化的时候,直接复制make_dot那段代码即可,然后需要初始化一个net,以及这个网络需要的数据规模,此处就以 这段代码为例,初始化一个模型net,准备这个模型的输入数据x,shape为(batch,channels,height,width) 然后把数据传入模型得到输出结果y。传入make_dot即可得到下图。


 net = CNN()
 x = Variable(torch.randn(1, 1, 28, 28))
 y = net(x)
 g = make_dot(y)
 g.view()

画pytorch模型图,以及参数计算的方法

最后输出该网络的各种参数。


该层的结构:[16, 1, 5, 5]
该层参数和:400
该层的结构:[16]
该层参数和:16
该层的结构:[32, 16, 5, 5]
该层参数和:12800
该层的结构:[32]
该层参数和:32
该层的结构:[10, 1568]
该层参数和:15680
该层的结构:[10]
该层参数和:10
总参数数量和:28938

来源:https://blog.csdn.net/qq_18293213/article/details/79047742

标签:pytorch,模型图,参数
0
投稿

猜你喜欢

  • Javascript 颜色渐变效果的实现代码

    2024-05-05 09:15:50
  • 深入理解golang chan的使用

    2024-05-10 13:59:06
  • Python使用ctypes调用C/C++的方法

    2023-09-01 21:27:47
  • 一个css垂直水平居中布局,css效果

    2008-11-03 11:40:00
  • Pytorch加载数据集的方式总结及补充

    2023-02-15 17:14:37
  • PHP 计算两个特别大的整数实例代码

    2024-05-11 10:07:33
  • JavaScript实现计算圆周率到小数点后100位的方法示例

    2024-02-27 02:38:58
  • IE下Flash内容刷新后消失问题

    2008-01-02 12:38:00
  • MySQL查询重复数据(删除重复数据保留id最小的一条为唯一数据)

    2024-01-14 14:15:33
  • MySQL数据库之字符集 character

    2024-01-22 04:42:13
  • python中assert用法实例分析

    2023-05-22 06:01:40
  • python pyecharts库的用法大全

    2021-04-21 13:48:05
  • Python实现的摇骰子猜大小功能小游戏示例

    2022-04-08 13:26:28
  • python实现数据预处理之填充缺失值的示例

    2022-01-24 19:44:30
  • Python中selenium库的用法详解

    2021-06-26 00:29:41
  • django 数据库 get_or_create函数返回值是tuple的问题

    2024-01-27 09:47:22
  • Python的dict字典结构操作方法学习笔记

    2022-10-27 10:56:21
  • 拿来就用!Python批量合并PDF的示例代码

    2021-01-02 15:39:23
  • Python ORM框架之SQLAlchemy 的基础用法

    2023-06-09 18:03:41
  • python在地图上画比例的实例详解

    2023-06-22 20:54:00
  • asp之家 网络编程 m.aspxhome.com