pytorch下大型数据集(大型图片)的导入方式
作者:牙疼_LG 时间:2021-01-18 05:30:29
使用torch.utils.data.Dataset类 处理图片数据时,
1. 我们需要定义三个基本的函数,以下是基本流程
class our_datasets(Data.Dataset):
def __init__(self,root,is_resize=False,is_transfrom=False):
#这里只是个参考。按自己需求写。
self.root=root
self.is_resize=is_resize
self.is_transfrom=is_transfrom
self.imgs_list=...#这里建议保存的是 图片的路径 而不是 图片的数据
self.labs_list=...
def __getitem__(self, index):
img_path,lab=self.imgs_list[index],self.labs_list[index]
#这里使用PIL库读取图片数据.
img_data = Image.open(img_path).convert('RGB')
#这里看自己需要,可以不要
if self.is_resize:
img_data = img_data.resize((self.is_resize[0], self.is_resize[1]), Image.ANTIALIAS)
#但是数据转换建议加上,很多时候都会用到
if self.is_transfrom:
img_data=self.is_transfrom(img_data)
return img_data,lab
def __len__(self):
return len(self.imgs_list)
这里,我将 读取图片 的步骤 放到 __getitem__ ,是因为 这样放的话,对内存的要求会降低很多,我们只是将数据的路径导入了内存中,当需要读取这个图片数据时,再读取,这样更像是随用随取。如果将这部分放到 __init__ 里面,会一次将 图片数据都加载到 内存中,如果数据量太大,会直接卡死。
2.Dataset 类 返回的数据 类型 是与你读取时的类型一致的。但是在 pytorch使用时,会提示
TypeError: batch must contain tensors, numbers, dicts or lists; found <class 'PIL.Image.Image'>
通常,在数据了不大时,我一般都是在 读取数据后 加一句,转换成 numpy.array类型。
但是,在处理较大型的数据时,这样会很慢。
这时候,我建议 直接使用 torchvision来进行数据转换。
is_transfrom=torchvision.transforms.ToTensor()
将 上例代码 加入 Dataset类中,这样就会快很多。
来源:https://blog.csdn.net/qq_36285997/article/details/82463959
标签:pytorch,数据集,图片,导入
![](/images/zang.png)
![](/images/jiucuo.png)
猜你喜欢
奇怪的PHP引用效率问题分析
2023-10-29 14:36:04
Javascript特效--划过放大的列表
2008-03-21 12:18:00
![](https://img.aspxhome.com/file/UploadPic/20083/21/2008321122917663s.jpg)
python列表生成器常用迭代器示例详解
2023-11-16 01:35:12
python中通过pip安装库文件时出现“EnvironmentError: [WinError 5] 拒绝访问”的问题及解决方案
2023-08-29 20:25:40
php之二维数组排序问题
2023-07-15 06:44:42
OpenCV实现车辆识别和运动目标检测
2023-09-22 18:55:40
![](https://img.aspxhome.com/file/2023/6/82606_0s.jpg)
pytorch中的torch.nn.Conv2d()函数图文详解
2021-02-01 17:32:13
![](https://img.aspxhome.com/file/2023/6/97016_0s.png)
MS Server和Oracle中对NULL处理的一些细节差异
2009-06-10 17:35:00
简单了解python单例模式的几种写法
2022-01-16 20:05:51
在javascript中如何取整?
2009-06-07 18:34:00
python使用py2neo查询Neo4j的节点、关系及路径
2023-02-01 18:11:52
![](https://img.aspxhome.com/file/2023/5/97195_0s.png)
Python叠加矩形框图层2种方法及效果
2022-10-09 15:59:53
![](https://img.aspxhome.com/file/2023/6/105606_0s.jpg)
python机器学习实现决策树
2021-04-21 07:44:34
![](https://img.aspxhome.com/file/2023/1/100911_0s.jpg)
新Orcas语言特性-查询句法
2010-07-16 12:58:00
![](https://img.aspxhome.com/file/UploadPic/20107/16/2010716133740143s.jpg)
Web Forms 2.0
2008-07-24 12:47:00
ACCESS如何打印窗体中当前显示的记录
2008-11-20 16:31:00
一个简单的北京2008奥运倒计时代码
2008-03-16 14:15:00
使用python处理题库表格并转化为word形式的实现
2023-07-25 12:33:18
![](https://img.aspxhome.com/file/2023/5/61175_0s.jpg)
python使用pynput库操作、监控你的鼠标和键盘
2022-04-18 00:24:38
![](https://img.aspxhome.com/file/2023/3/124793_0s.png)
Python爬虫之批量下载喜马拉雅音频
2022-09-25 20:18:27
![](https://img.aspxhome.com/file/2023/8/75938_0s.png)