linux 下python多线程递归复制文件夹及文件夹中的文件

作者:Tdyh_NY 时间:2021-06-28 03:27:44 

本文是利用python 复制文件夹 刚开始写了一个普通的递归复制文件夹    然后想了想 觉得对io频繁的程序 threading 线程还比较友好  就写了个多线程版本的  最恶心人的地方就是路径  其他都还好吧 


import os
import threading
import multiprocessing
length_of_folder = 0
def copyfile(Path):
if os.path.isdir(Path):
 print("-----------%s" % ("Testfortherading_" + '/' + Path[length_of_folder:]))
 os.makedirs("Testforthreading_" + '/' + Path[length_of_folder:])
filenames = os.listdir(Path)
for filename in filenames:
 if os.path.isdir(Path + '/' + filename):
   #ps = "Testforthreading_" +"/" + Path[length_of_folder:]
   #print("%s" % (ps + '/' + filename))
   #os.mkdir(ps + '/' + filename)
   temp = Path + '/' + filename
   t = threading.Thread(target=copyfile , args=(temp,))
   t.start()
 else:
   f = open(Path + '/' + filename , 'rb')
   content = f.read()
   F = open('Testforthreading_' + '/' + Path[length_of_folder:]+ '/' + filename , 'wb')
   F.write(content)
   f.close()
   F.close()
def main():
""""""
foldername = input("Please input the folder you want to copy:")
length_of_folder = len(foldername)
if os.path.isdir("Testforthreading_"):
 os.removedirs("Testforthreading_")
os.mkdir("Testforthreading_")
copyfile(foldername)
#p = multiprocessing.Pool(10)
#que = multiprocessing.Manager().Queue()
if __name__ == "__main__":
main()

ps:Python多进程递归复制文件夹中的文件


import multiprocessing
import os
import reimport time
# 源文件夹地址、目标文件夹地址
SOUR_PATH = ""
DEST_PATH = ""
# 源文件列表 文件夹列表
SOUR_FILE_LIST = list()
SOUR_DIR_LIST = list()
def traverse(source_path):
 """递归遍历源文件夹,获取文件夹列表、文件列表
 :param source_path: 用户指定的源路径
 """
 if os.path.isdir(source_path):
   SOUR_DIR_LIST.append(source_path)
   for temp in os.listdir(source_path):
     new_source_path = os.path.join(source_path, temp)
     traverse(new_source_path)
 else:
   SOUR_FILE_LIST.append(source_path)
def copy_files(queue, sour_file, dest_file):
 """复制文件列表中的文件到指定文件夹
 :param queue: 队列,用于监测进度
 :param sour_file:
 :param dest_file:
 """
 # time.sleep(0.1)
 try:
   old_f = open(sour_file, "rb")
   new_f = open(dest_file, "wb")
 except Exception as ret:
   print(ret)
 else:
   content = old_f.read()
   new_f.write(content)
   old_f.close()
   new_f.close()
 queue.put(sour_file)
def main():
 source_path = input("请输入需要复制的文件夹的路径:\n")
 SOUR_PATH = source_path
 DEST_PATH = SOUR_PATH + "[副本]"
 # dest_path = input("请输入目标文件夹路径")
 # DEST_PATH = dest_path
 print(">>>源文件夹路径:", SOUR_PATH)
 print(">目标文件夹路径:", DEST_PATH)
 print("开始计算文件...")
 queue = multiprocessing.Manager().Queue()
 po = multiprocessing.Pool(5)
 traverse(source_path)
 print("创建目标文件夹...")
 for sour_dir in SOUR_DIR_LIST:
   dest_dir = sour_dir.replace(SOUR_PATH, DEST_PATH)
   try:
     os.mkdir(dest_dir)
   except Exception as ret:
     print(ret)
   else:
     print("\r目标文件夹 %s 创建成功" % DEST_PATH, end="")
 print()
 print("开始复制文件")
 for sour_file in SOUR_FILE_LIST:
   dest_file = sour_file.replace(SOUR_PATH, DEST_PATH)
   po.apply_async(copy_files, args=(queue, sour_file, dest_file))
 count_file = len(SOUR_FILE_LIST)
 count = 0
 while True:
   q_sour_file = queue.get()
   if q_sour_file in SOUR_FILE_LIST:
     count += 1
   rate = count * 100 / count_file
   print("\r文件复制进度: %.2f%% %s" % (rate, q_sour_file), end="")
   if rate >= 100:
     break
 print()
 ret = re.match(r".*\\([^\\]+)", SOUR_PATH)
 name = ret.group(1)
 print("文件夹 %s 复制完成" % name)
if __name__ == '__main__':
 main()

总结

以上所述是小编给大家介绍的linux 下python多线程递归复制文件夹及文件夹中的文件网站的支持!
如果你觉得本文对你有帮助,欢迎转载,烦请注明出处,谢谢!

来源:https://blog.csdn.net/Tdyh_NY/article/details/103788085

标签:python,递归,复制
0
投稿

猜你喜欢

  • 简单了解python协程的相关知识

    2021-04-12 19:37:54
  • phpstorm断点调试方法图文详解

    2023-05-30 01:06:40
  • mysql中如何对列求和

    2024-01-16 12:28:48
  • js实现根据文件url批量压缩下载成zip包

    2024-04-22 22:15:17
  • asp彩色验证码的制作详解

    2007-09-18 13:22:00
  • XML正在接管Web服务 成为SOA的基础

    2008-09-05 17:21:00
  • 基于python 将列表作为参数传入函数时的测试与理解

    2023-02-07 19:51:18
  • python使用参数对嵌套字典进行取值的方法

    2022-04-12 10:13:27
  • 使用Python脚本来获取Cisco设备信息的示例

    2023-05-26 22:27:20
  • INPUT的对齐问题

    2008-05-24 08:32:00
  • SQLServer 快速备份的十种方法

    2024-01-21 01:04:32
  • Pandas之groupby( )用法笔记小结

    2023-03-03 15:58:24
  • Django自定义User模型、认证、权限控制的操作

    2022-08-03 16:06:17
  • Python绘制专业的K线图 源代码解析

    2023-09-02 09:51:35
  • pycharm 2021.3最新激活码有效期至2100年(亲测可用)

    2022-03-23 13:45:03
  • pygame可视化幸运大转盘实现

    2021-03-01 05:22:11
  • 分别用两个函数实现的菜单

    2024-04-19 10:05:36
  • 在antd Form表单中select设置初始值操作

    2024-05-02 17:03:12
  • Django 项目布局方法(值得推荐)

    2022-08-22 12:44:22
  • 一篇文章讲解清楚MySQL索引

    2024-01-28 11:59:24
  • asp之家 网络编程 m.aspxhome.com