pytorch常用数据类型所占字节数对照表一览
作者:jingxian 时间:2021-07-25 15:26:29
PyTorch上的常用数据类型如下
Data type | dtype | CPU tensor | GPU tensor | Size/bytes |
---|---|---|---|---|
32-bit floating | torch.float32 or torch.float | torch.FloatTensor | torch.cuda.FloatTensor | 4 |
64-bit floating | torch.float64 or torch.double | torch.DoubleTensor | torch.cuda.DoubleTensor | 8 |
16-bit floating | torch.float16or torch.half | torch.HalfTensor | torch.cuda.HalfTensor | - |
8-bit integer (unsigned) | torch.uint8 | torch.ByteTensor | torch.cuda.ByteTensor | 1 |
8-bit integer (signed) | torch.int8 | torch.CharTensor | torch.cuda.CharTensor | - |
16-bit integer (signed) | torch.int16or torch.short | torch.ShortTensor | torch.cuda.ShortTensor | 2 |
32-bit integer (signed) | torch.int32 or torch.int | torch.IntTensor | torch.cuda.IntTensor | 4 |
64-bit integer (signed) | torch.int64 or torch.long | torch.LongTensor | torch.cuda.LongTensor | 8 |
以上PyTorch中的数据类型和numpy中的相对应,占用字节大小也是一样的
补充:pytorch tensor比较大小 数据类型要注意
如下
a = torch.tensor([[0, 0], [0, 0]])
print(a>=0.5)
输出
tensor([[1, 1],
[1, 1]], dtype=torch.uint8)
结果明显不对, 分析原因是因为, a是long类型, 而0.5是float. 0.5会被转化为 long, 变为0. 因此结果会出错, 做出如下修改就可以得到正确答案
正确用法:
a = torch.tensor([[0, 0], [0, 0]]).float()
print(a>=0.5)
来源:https://blog.csdn.net/yrwang_xd/article/details/106255054
标签:pytorch,数据类型,占字节数
0
投稿
猜你喜欢
用一个案例讲解SQL Server数据库恢复
2008-11-28 14:17:00
js控制div弹出层实现方法
2023-10-15 05:53:28
pymysql之cur.fetchall() 和cur.fetchone()用法详解
2024-01-15 14:31:50
python消除序列的重复值并保持顺序不变的实例
2023-03-13 14:53:49
python中reduce()函数的使用方法示例
2021-08-09 12:32:53
python3 property装饰器实现原理与用法示例
2021-07-10 05:02:28
golang切片原理详细解析
2024-04-29 13:06:35
Python中的is和id用法分析
2021-12-09 17:23:12
从Vista地址栏到网站导航菜单
2009-09-08 12:35:00
js 可选链操作符的使用
2023-08-18 16:04:57
python读写数据读写csv文件(pandas用法)
2021-06-15 15:28:03
Python远程SSH库Paramiko详细操作
2022-08-14 18:38:09
MSSQL2005在networkservice权限运行附加数据库报(Microsoft SQL Server,错误: 5120)
2024-01-23 00:09:51
python获取一组数据里最大值max函数用法实例
2022-01-28 00:02:44
从零开始做一个pagination分页组件
2024-04-29 13:25:13
网站设计中的面包屑[译]
2009-03-22 15:42:00
PHP与MySQL开发中页面乱码的产生与解决
2023-10-03 04:10:08
使用Python实现图像融合及加法运算
2021-03-03 06:19:42
windows下python模拟鼠标点击和键盘输示例
2021-11-12 21:06:32
asp.net 字符串、二进制、编码数组转换函数
2024-03-10 07:43:23