Pytorch训练过程出现nan的解决方式
作者:咆哮的阿杰 时间:2021-04-21 08:12:08
今天使用shuffleNetV2+,使用自己的数据集,遇到了loss是nan的情况,而且top1精确率出现断崖式上升,这显示是不正常的。
在网上查了下解决方案。我的问题是出在学习率上了。
我自己做的样本数据集比较小,就三类,每类大概三百多张,初始学习率是0.5。后来设置为0.1就解决了。
按照解决方案上写的。出现nan的情况还有以下几种:
学习率太大,但是样本数据集又很小。(我的情况)
自定义的loss除以了一个很小的数字,小到接近0。
数据不干净,数据本身就有nan,可以用numpy.isnan检查。
target,即label是大于等于0的。从1到类别数目-1变化。
来源:https://blog.csdn.net/qq_34914551/article/details/99992341
标签:Pytorch,训练,nan
![](/images/zang.png)
![](/images/jiucuo.png)
猜你喜欢
Python实现扫码工具的示例代码
2022-07-06 06:06:36
Windows下MySQL安全权限设置方法
2009-07-30 08:32:00
css基础教程属性篇之二
2008-07-25 19:23:00
![](https://img.aspxhome.com/file/UploadPic/20087/25/2008725192720609s.jpg)
破解 屏蔽 防框架代码 top.location != self.location
2008-11-27 12:59:00
Python绘图Matplotlib之坐标轴及刻度总结
2023-10-01 15:56:39
![](https://img.aspxhome.com/file/2023/9/62899_0s.png)
MySQL表设计优化与索引 (八)
2010-10-25 19:46:00
详解go语言json的使用技巧
2023-09-12 10:27:48
CSS网页设计时关于字体大小的设计
2008-10-23 13:42:00
python制作小说爬虫实录
2023-09-30 17:39:25
ASP实例:使用ASP生成图片彩色校验码
2009-01-20 16:27:00
如何基于pythonnet调用halcon脚本
2022-09-27 16:34:23
![](https://img.aspxhome.com/file/2023/2/67372_0s.png)
python抓取某汽车网数据解析html存入excel示例
2023-11-02 16:46:35
![](https://img.aspxhome.com/file/2023/3/63263_0s.jpg)
防止别人iframe的js
2008-09-26 17:19:00
数据库中identity字段不必是系统产生的唯一值 性能优化方法(新招)
2011-09-30 11:26:06
URL编码与SQL注入
2007-09-26 12:41:00
django自带的权限管理Permission用法说明
2023-07-25 04:18:06
![](https://img.aspxhome.com/file/2023/1/61491_0s.jpg)
IIS+PHP添加对webp格式图像的支持配置方法
2023-05-28 11:20:11
PHPStudy下如何为Apache安装SSL证书的方法步骤
2023-11-14 18:57:09
![](https://img.aspxhome.com/file/2023/4/89724_0s.png)
Tensorflow 训练自己的数据集将数据直接导入到内存
2023-08-18 14:30:14
![](https://img.aspxhome.com/file/2023/5/75965_0s.png)
ASP用户登录验证代码
2008-05-15 12:49:00