pytorch中Tensor.to(device)和model.to(device)的区别及说明
作者:康康同学97 时间:2021-10-20 05:26:06
Tensor.to(device)和model.to(device)的区别
区别所在
使用GPU训练的时候,需要将Module对象和Tensor类型的数据送入到device。通常会使用 to.(device)。但是需要注意的是:
对于Tensor类型的数据,使用to.(device) 之后,需要接收返回值,返回值才是正确设置了device的Tensor。
对于Module对象,只用调用to.(device) 就可以将模型设置为指定的device。不必接收返回值。
来自pytorch官方文档的说明:
Tensor.to(device)
Module.to(device)
举例
# Module对象设置device的写法
model.to(device)
# Tensor类型的数据设置 device 的写法。
samples = samples.to(device)
pytorch学习笔记--to(device)用法
在学习深度学习的时候,我们写代码经常会见到类似的代码:
img = img.to(device=torch.device("cuda" if torch.cuda.is_available() else "cpu"))
model = models.vgg16_bn(pretrained=True).to(device=torch.device("cuda" if torch.cuda.is_available() else "cpu"))
也可以先定义device:
device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu")
model = model.to(device)
img = img.to(device)
这段代码到底有什么用呢?
这段代码的意思就是将所有最开始读取数据时的tensor变量copy一份到device所指定的GPU上去,之后的运算都在GPU上进行。
为什么要在GPU上做运算呢?
首先,在做高维特征运算的时候,采用GPU无疑是比用CPU效率更高,如果两个数据中一个加了.cuda()或者.to(device),而另外一个没有加,就会造成类型不匹配而报错。
tensor和numpy都是矩阵,前者能在GPU上运行,后者只能在CPU运行,所以要注意数据类型的转换。
.cuda()和.to(device)的效果一样吗?为什么后者更好?
两个方法都可以达到同样的效果,在pytorch中,即使是有GPU的机器,它也不会自动使用GPU,而是需要在程序中显示指定。调用model.cuda(),可以将模型加载到GPU上去。这种方法不被提倡,而建议使用model.to(device)的方式,这样可以显示指定需要使用的计算资源,特别是有多个GPU的情况下。
如果你有多个GPU
那么可以参考以下代码:
device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu")
model = Model()
if torch.cuda.device_count() > 1:
model = nn.DataParallel(model,device_ids=[0,1,2])
model.to(device)
来源:https://blog.csdn.net/qq_38436266/article/details/117784900
标签:pytorch,Tensor.to,model.to,device
![](/images/zang.png)
![](/images/jiucuo.png)
猜你喜欢
Oracle 8x监控sysdba角色用户登陆情况
2010-07-16 12:48:00
Django中自定义模型管理器(Manager)及方法
2022-12-01 17:53:05
Centos7.4环境安装lamp-php7.0教程
2023-11-16 03:07:24
![](https://img.aspxhome.com/file/2023/5/103415_0s.png)
Pytorch实现Fashion-mnist分类任务全过程
2023-07-14 05:12:47
![](https://img.aspxhome.com/file/2023/3/62323_0s.png)
简单的水果风暴的算法过程
2009-12-13 15:49:00
三谈Iframe自适应高度
2010-08-03 13:04:00
mysql limit查询优化分析
2023-11-16 00:51:04
selenium+python实现文件上传操作的方法实例
2022-05-06 13:21:49
![](https://img.aspxhome.com/file/2023/4/87814_0s.png)
Python中的变量及简单数据类型应用
2021-06-13 09:45:26
![](https://img.aspxhome.com/file/2023/5/71365_0s.png)
Python面向对象程序设计之类和对象、实例变量、类变量用法分析
2021-05-08 01:34:56
![](https://img.aspxhome.com/file/2023/8/75858_0s.png)
Web标准学习:CSS样式书写风格
2008-03-25 09:37:00
![](https://img.aspxhome.com/file/UploadPic/20083/25/200832593821947s.gif)
django框架自定义模板标签(template tag)操作示例
2023-11-06 16:05:59
python批量下载壁纸的实现代码
2023-11-09 18:13:05
Python面向对象总结及类与正则表达式详解
2021-08-12 13:23:34
![](https://img.aspxhome.com/file/2023/3/70023_0s.png)
Python读取配置文件-ConfigParser的二次封装方法
2023-06-15 09:19:58
![](https://img.aspxhome.com/file/2023/1/59651_0s.png)
ASP 常见的连接字符串写法(access2007)
2011-03-25 10:40:00
Python实现读取字符串按列分配后按行输出示例
2023-08-07 19:39:14
Python设计模式之简单工厂模式实例详解
2022-11-03 04:43:08
![](https://img.aspxhome.com/file/2023/8/76128_0s.png)
AJAX打造博客无刷新搜索
2007-08-23 08:48:00
python实现学生管理系统源码
2023-05-29 22:05:16
![](https://img.aspxhome.com/file/2023/9/62919_0s.jpg)