Python产生batch数据的操作
作者:小小黄01 时间:2022-11-22 16:00:59
产生batch数据
输入data中每个样本可以有多个特征,和一个标签,最好都是numpy.array格式。
datas = [data1, data2, …, dataN ], labels = [label1, label2, …, labelN],
其中data[i] = [feature1, feature2,…featureM], 表示每个样本数据有M个特征。
输入我们方法的数据,all_data = [datas, labels] 。
代码实现
通过索引值来产生batch大小的数据,同时提供是否打乱顺序的选择,根据随机产生数据量范围类的索引值来打乱顺序。
import numpy as np
def batch_generator(all_data , batch_size, shuffle=True):
"""
:param all_data : all_data整个数据集,包含输入和输出标签
:param batch_size: batch_size表示每个batch的大小
:param shuffle: 是否打乱顺序
:return:
"""
# 输入all_datas的每一项必须是numpy数组,保证后面能按p所示取值
all_data = [np.array(d) for d in all_data]
# 获取样本大小
data_size = all_data[0].shape[0]
print("data_size: ", data_size)
if shuffle:
# 随机生成打乱的索引
p = np.random.permutation(data_size)
# 重新组织数据
all_data = [d[p] for d in all_data]
batch_count = 0
while True:
# 数据一轮循环(epoch)完成,打乱一次顺序
if batch_count * batch_size + batch_size > data_size:
batch_count = 0
if shuffle:
p = np.random.permutation(data_size)
all_data = [d[p] for d in all_data]
start = batch_count * batch_size
end = start + batch_size
batch_count += 1
yield [d[start: end] for d in all_data]
测试数据
样本数据x和标签y可以分开输入,也可以同时输入。
# 输入x表示有23个样本,每个样本有两个特征
# 输出y表示有23个标签,每个标签取值为0或1
x = np.random.random(size=[23, 2])
y = np.random.randint(2, size=[23,1])
count = x.shape[0]
batch_size = 5
epochs = 20
batch_num = count // batch_size
batch_gen = batch_generator([x, y], batch_size)
for i in range(epochs):
print("##### epoch %s ##### " % i)
for j in range(batch_num):
batch_x, batch_y = next(batch_gen)
print("-----epoch=%s, batch=%s-----" % (i, j))
print(batch_x, batch_y)
补充:使用tensorflow.data.Dataset构造batch数据集
import tensorflow as tf
import numpy as np
def _parse_function(x):
num_list = np.arange(10)
return num_list
def _from_tensor_slice(x):
return tf.data.Dataset.from_tensor_slices(x)
softmax_data = tf.data.Dataset.range(1000) # 构造一个队列
softmax_data = softmax_data.map(lambda x:tf.py_func(_parse_function, [x], [tf.int32]))# 将数据进行传入
softmax_data = softmax_data.flat_map(_from_tensor_slice) #将数据进行平铺, 将其变为一维的数据,from_tensor_slice将数据可以输出
softmax_data = softmax_data.batch(1) #构造一个batch的数量
softmax_iter = softmax_data.make_initializable_iterator() # 构造数据迭代器
softmax_element = softmax_iter.get_next() # 获得一个batch的数据
sess = tf.Session()
sess.run(softmax_iter.initializer) # 数据迭代器的初始化操作
print(sess.run(softmax_element)) # 实际获得一个数据
print(sess.run(softmax_data))
以上为个人经验,希望能给大家一个参考,也希望大家多多支持脚本之家。如有错误或未考虑完全的地方,望不吝赐教。
来源:https://blog.csdn.net/huanghaocs/article/details/83242353
标签:Python,batch,数据
![](/images/zang.png)
![](/images/jiucuo.png)
猜你喜欢
XML+ JS创建树形菜单
2013-08-22 08:30:17
SQLServer2005安装提示服务无法启动原因分析及解决
2024-01-16 03:02:26
![](https://img.aspxhome.com/file/2023/6/100006_0s.png)
Java通过MySQL的加解密函数实现敏感字段存储
2024-01-27 12:08:25
纯numpy卷积神经网络实现手写数字识别的实践
2023-11-08 10:44:50
![](https://img.aspxhome.com/file/2023/7/124347_0s.png)
微信 java 实现js-sdk 图片上传下载完整流程
2024-04-29 14:08:03
ASP利用TCPIP.DNS组件获得域名对应的IP
2009-11-07 19:21:00
如何go语言比较两个对象是否深度相同
2024-02-18 21:21:58
Python编程对列表中字典元素进行排序的方法详解
2023-11-23 04:48:26
Python实现获取乱序列表排序后的新下标的示例
2021-04-25 10:36:42
python抖音表白程序源代码
2021-01-29 17:12:38
详解mysql8.0创建用户授予权限报错解决方法
2024-01-26 08:58:31
用途相似的标签
2008-05-23 13:11:00
python迭代器自定义类的具体方法
2023-07-08 06:17:30
网页设计的十要十不要
2007-12-21 13:01:00
js动态创建、删除表格示例代码
2024-04-19 09:54:37
Python 编码规范(Google Python Style Guide)
2023-04-12 03:49:35
python使用dlib进行人脸检测和关键点的示例
2021-12-14 20:56:04
![](https://img.aspxhome.com/file/2023/9/68469_0s.png)
Python和php通信乱码问题解决方法
2023-03-04 14:50:43
详解django.contirb.auth-认证
2021-12-21 16:48:40
Scrapy-Redis结合POST请求获取数据的方法示例
2023-08-25 06:31:56