Python进程池基本概念

作者:苏州程序大白 时间:2021-08-06 01:39:28 

前言:

创建进程池可以形象地理解为创建一个并行的流水线,只需创建一次流水线的消耗,处理接收到的任务的,不使用进程池。 ,浪费时间。

中方本来没有进程的,除了python的,使用线程池的语言,是进程的其他线程池(而进程是执行业务的其他任务)。python的原因(因为Cython的概念),线程编程不同的并行,把线程池的概念转移到了进程中,命名为进程池。

一、python进程池

创建的子进程数量不多时,可以直接利用多处理进程中的进程动态形成需要的进程。

如果是上百量甚至巨大上千,手动的去创建进程的工作目标,此时就可以为多进程模块提供池的方法。

1、初始化 Pool 时,可以指定一个进程数

2、当有新的请求提交到 Pool 中时

  • 如果池还没有满,那么就用创建一个新进程的执行该请求;

  • 如果池中的进程达到指定的任务,那么已经有多少时间,直到有进程结束,会用之前的请求进程来执行新的任务。

二、进程池如何使用?

申请()

函数原型:apply (func, args=()[, kwds={}]])

该函数传递不定参数,同 python 中的应用函数一致,主进程会被阻止函数执行结束(不建议使用,并且 3.x 以后不再出现使用)

apply_async

函数原型:apply_async(func[, args=()[, kwds={}[, callback=None]]])

与应用一致,但它是非进行不支持的使用支持结果返回后反对

地图()

函数原型:map(func, iterable[, chunksize=None])

池类中的映射表的行为必须基本一致,它会使用第二个进程与先前的结果返回:

但在实际使用中,参数是一个调用,在整个应用程序中都需要注意,程序会运行子进程。

map_async()

函数原型:map_async(func, iterable[, chunksize[, callback]])

与地图匹配一致,但它是非阻尼的。

close()

关闭进程池(pool),不再接受新的任务。

终端()

结束工作进程,不再处理未处理的任务。

加入()

主进程停止等待子进程的退出,加入方法要在关闭或终止使用之后。

三、代码实列

# 导入相关multiprocessing包
import multiprocessing

# 创建拥有CPU核心数量的进程的进程池
pool = multiprocessing.Pool(processes=multiprocessing.cpu_count())

for i in  range ( 100 ): ##制动等待当前任务的进程结束# pool.apply(func=pow, args=(i,2))
    
    

    # 不延迟当前任务的进程结束
    pool.apply_async(func= pow , args=(i, 2 ))

# # map函数到一个列表,延迟返回值
# results = pool.map(func=print, iterable=[i for i in range(10000)])

# # 不延迟等待返回值,未运行完就调用results会报错。
# results = poolmap_async(func=print, iterable=[i for i in range(10000)])

#close之后不会有新的进程加入到pool
 pool.close()

#加入函数等待所有子进程#调用加入之前,先结束调用close函数,否则会出错。
 pool.join()

# # 结束工作进程,不再处理未完成的任务。
# pool.terminate()

四、进程池中的进程和一般的进程有什么区别?

进程池中的Queue:

  • 如果要使用进程池创建进程,就需要使用multiprocessing.Manager()中的Queue(),而不是multiprocessing.Queue()

  • 使用的方法是一样的,都已经成功了,再用q.put()添加、q.get()等待获取。

来源:https://blog.csdn.net/weixin_46931877/article/details/123849788

标签:Python,进程池,概念
0
投稿

猜你喜欢

  • CSS的优先级与特殊性

    2008-06-24 11:36:00
  • Python从入门到实战之数据结构篇

    2023-10-16 21:32:30
  • Python中音频处理库pydub的使用教程

    2023-07-15 20:22:54
  • PHP异常Parse error: syntax error, unexpected T_VAR错误解决方法

    2023-11-16 13:00:48
  • Python运行出现DeprecationWarning的问题及解决

    2022-01-14 05:26:23
  • Python AES加密模块用法分析

    2021-05-29 05:13:58
  • fso怎样判断一个盘上是否有文件

    2007-09-26 12:35:00
  • asp三天学好ADO对象之第二天

    2008-10-09 12:49:00
  • asp读取数据库中数据到数组的类

    2007-09-16 18:19:00
  • Python对象的生命周期源码学习

    2022-04-04 23:21:24
  • MySQL与PHP的基础与应用专题之数据查询

    2023-11-10 10:09:55
  • php引用返回与取消引用的详解

    2023-11-20 02:50:07
  • Python移动测试开发subprocess模块项目实战

    2022-09-06 11:11:19
  • PHP中isset()和unset()函数的用法小结

    2023-11-19 14:19:24
  • Python中的基本数据类型讲解

    2021-04-29 07:07:24
  • Python中的闭包总结

    2023-09-09 03:46:05
  • 段正淳的css笔记(6)-浅谈css框架开发

    2008-01-13 22:42:00
  • OpenCV图像缩放resize各种插值方式的比较实现

    2023-03-18 13:31:45
  • Python psutil模块简单使用实例

    2023-08-10 21:15:37
  • django用户登录和注销的实现方法

    2021-01-17 13:55:40
  • asp之家 网络编程 m.aspxhome.com