解决Pytorch在测试与训练过程中的验证结果不一致问题
作者:the步履不停shy 时间:2022-08-18 03:50:13
引言
今天在使用Pytorch导入此前保存的模型进行测试,在过程中发现输出的结果与验证结果差距甚大,经过排查后发现是forward与eval()顺序问题。
现象
此前的错误代码是
input_cpu = torch.ones((1, 2, 160, 160))
target_cpu =torch.ones((1, 2, 160, 160))
target_gpu, input_gpu = target_cpu.cuda(), input_cpu.cuda()
model.set_input_2(input_gpu, target_gpu)
model.eval()
model.forward()
应该改为
input_cpu = torch.ones((1, 2, 160, 160))
target_cpu =torch.ones((1, 2, 160, 160))
target_gpu, input_gpu = target_cpu.cuda(), input_cpu.cuda()
model.set_input_2(input_gpu, target_gpu)
# 先forward再eval
model.forward()
model.eval()
当时有个疑虑,为什么要在forward后面再加eval(),查了下相关资料,主要是在BN层以及Dropout的问题。
当使用eval()时,模型会自动固定BN层以及Dropout,选取训练好的值,否则则会取平均,可能导致生成的图片颜色失真。
PyTorch进行训练和测试时一定注意要把实例化的model指定train/eval
使用PyTorch进行训练和测试时一定注意要把实例化的model指定train/eval,eval()时,框架会自动把BN和DropOut固定住,不会取平均,而是用训练好的值,不然的话,一旦test的batch_size过小,很容易就会被BN层导致生成图片颜色失真极大!!!!!!
eg:
Class Inpaint_Network()
......
Model = Inpaint_Nerwoek()
#train:
Model.train(mode=True)
.....
#test:
Model.eval()
来源:https://blog.csdn.net/weixin_44975887/article/details/103126926
标签:Pytorch,测试,训练,结果,不一致
0
投稿
猜你喜欢
pandas 选择某几列的方法
2022-04-08 13:14:36
Oracle 查询存储过程做横向报表的方法
2024-01-16 00:59:55
Python配置虚拟环境图文步骤
2023-10-13 01:37:40
MySQL常用命令与内部组件及SQL优化详情
2024-01-17 12:50:41
安装mysql8.0.11及修改root密码、连接navicat for mysql的思路详解
2024-01-17 14:11:18
Python数学建模PuLP库线性规划进阶基于字典详解
2022-03-11 18:04:04
JavaScript onclick 和 click 的区别详解
2024-06-05 09:56:25
Python基础之getpass模块详细介绍
2021-03-06 13:47:13
mssql使用存储过程破解sa密码
2024-01-20 10:28:09
Python 敏感词过滤的实现示例
2021-07-04 12:17:28
跨浏览器使用剪贴板
2008-09-27 13:26:00
MySQL中触发器入门简单实例与介绍
2024-01-17 15:02:30
EF(EntityFramework) 插入或更新数据报错的解决方法
2024-01-20 19:21:42
python 基于opencv操作摄像头
2023-03-06 08:02:31
在ASP中用“正则表达式对象”来校验数据的合法性
2010-05-27 12:25:00
golang中package is not in GOROOT报错的真正解决办法
2024-04-28 10:45:29
python之从文件读取数据到list的实例讲解
2021-11-11 08:04:26
Python函数参数定义及传递方式解析
2021-10-19 21:28:25
python连接MySQL、MongoDB、Redis、memcache等数据库的方法
2024-01-13 15:35:25
python实现多进程按序号批量修改文件名的方法示例
2021-10-30 08:33:42