如何用Python合并lmdb文件
作者:SnailTyan 时间:2023-08-05 17:42:01
由于Caffe使用的存储图像的数据库是lmdb,因此有时候需要对lmdb文件进行操作,本文主要讲解如何用Python合并lmdb文件。没有lmdb支持的,需要用pip命令安装。
pip install lmdb
代码及注释如下:
# coding=utf-8
# filename: merge_lmdb.py
import lmdb
# 将两个lmdb文件合并成一个新的lmdb
def merge_lmdb(lmdb1, lmdb2, result_lmdb):
print 'Merge start!'
# env代表Environment, txn代表Transaction
# 打开lmdb文件,读模式
env_1 = lmdb.open(lmdb1)
env_2 = lmdb.open(lmdb2)
# 创建事务
txn_1 = env_1.begin()
txn_2 = env_2.begin()
# 打开数据库
database_1 = txn_1.cursor()
database_2 = txn_2.cursor()
# 打开lmdb文件,写模式,
env_3 = lmdb.open(result_lmdb, map_size=int(1e12))
txn_3 = env_3.begin(write=True)
count = 0
# 遍历数据库
for (key, value) in database_1:
# 将数据放到结果数据库事务中
txn_3.put(key, value)
count++
if(count % 1000 == 0):
# 将数据写入数据库,必须的,否则数据不会写入到数据库中
txn_3.commit()
count = 0
txn_3 = env_3.begin(write=True)
if(count % 1000 != 0):
txn_3.commit()
count = 0
txn_3 = env_3.begin(write=True)
for (key, value) in database_2:
txn_3.put(key, value)
if(count % 1000 == 0):
txn_3.commit()
count = 0
txn_3 = env_3.begin(write=True)
if(count % 1000 != 0):
txn_3.commit()
count = 0
txn_3 = env_3.begin(write=True)
# 关闭lmdb
env_1.close()
env_2.close()
env_3.close()
print 'Merge success!'
# 输出结果lmdb的状态信息,可以看到数据是否合并成功
print env_3.stat()
def main():
fr = open('lmdb.txt')
# lmdb1的目录
lmdb1 = fr.readline().strip()
# lmdb2的目录
lmdb2 = fr.readline().strip()
# result lmdb的目录
result_lmdb = fr.readline().strip()
fr.close()
merge_lmdb(lmdb1, lmdb2, result_lmdb)
if __name__ == '__main__':
main()
来源:https://blog.csdn.net/Quincuntial/article/details/56306024
标签:python,lmdb
![](/images/zang.png)
![](/images/jiucuo.png)
猜你喜欢
Python OpenCV特征检测之特征匹配方式详解
2021-07-20 00:51:58
![](https://img.aspxhome.com/file/2023/0/77580_0s.jpg)
Mysql常用基准测试命令总结
2024-01-22 17:22:05
tensorflow之自定义神经网络层实例
2022-05-26 07:05:27
如何安装MySQL Community Server 5.6.39
2024-01-26 23:07:29
![](https://img.aspxhome.com/file/2023/3/121593_0s.jpg)
python matplotlib imshow热图坐标替换/映射实例
2023-05-04 03:46:54
![](https://img.aspxhome.com/file/2023/6/92086_0s.jpg)
微软建议的ASP性能优化28条守则(1)
2008-02-22 16:54:00
![](https://img.aspxhome.com/file/UploadPic/up/2008032516342961.gif)
PHP getallheaders无法获取自定义头(headers)的问题
2024-04-30 08:47:30
![](https://img.aspxhome.com/file/2023/6/132796_0s.png)
Python中星号的五种用法小结
2022-12-06 16:17:23
python统计中文字符数量的两种方法
2022-11-16 00:24:08
python实现在sqlite动态创建表的方法
2021-08-05 13:54:10
Python命令行运行文件的实例方法
2023-05-10 13:57:56
asp查询xml的代码实现无刷新 模糊查询
2008-04-30 15:39:00
解决csv.writer写入文件有多余的空行问题
2022-12-05 06:54:28
HTML中小meta的大作用
2008-04-25 22:40:00
获取body标签的两种方法
2024-05-08 09:39:26
比较不错的函数式JavaScript编程指南教程
2023-08-25 08:24:41
Python为人脸照片添加口罩实战
2021-11-12 23:39:33
![](https://img.aspxhome.com/file/2023/3/67313_0s.jpg)
Webpack基础教程之名词解释
2022-12-17 19:04:30
python使用xlrd模块读写Excel文件的方法
2022-02-14 16:54:55
Vue 解决在element中使用$notify在提示信息中换行问题
2024-04-28 10:53:35
![](https://img.aspxhome.com/file/2023/8/133078_0s.jpg)