python中强制关闭线程与协程与进程方法

作者:良知犹存 时间:2023-05-11 10:24:48 

python中强制关闭线程与协程与进程方法

前言

python使用中多线程、多进程、多协程使用是比较常见的。那么如果在多线程等的使用,我们这个时候我们想从外部强制杀掉该线程请问如何操作?

需求

在python多线程等的使用中,我们需要在外部强制终止线程,这个时候又没有unix的pthread kill的函数,多进程这个时候大家觉得可以使用kill -9 直接强制杀掉就可以了,从逻辑上这么做没问题,但是不太优雅。其中我总结了一下不仅是使用多线程,以及多协程、多进程在python的实现对比。

此外也可以参考stackoverlow的文章,如何优雅的关闭一个线程,里面有很多的讨论,大家可以阅读一下

python中强制关闭线程与协程与进程方法

开始进入正题:

多线程

首先线程中进行退出的话,我们经常会使用一种方式:子线程执行的循环条件设置一个条件,当我们需要退出子线程的时候,将该条件置位,这个时候子线程会主动退出,但是当子线程处于阻塞情况下,没有在循环中判断条件,并且阻塞时间不定的情况下,我们回收该线程也变得遥遥无期。这个时候就需要下面的几种方式出马了:

守护线程:

如果你设置一个线程为守护线程,就表示你在说这个线程是不重要的,在进程退出的时候,不用等待这个线程退出。
如果你的主线程在退出的时候,不用等待那些子线程完成,那就设置这些线程的daemon属性。即,在线程开始(thread.start())之前,调用setDeamon()函数,设定线程的daemon标志。(thread.setDaemon(True))就表示这个线程“不重要”。

如果你想等待子线程完成再退出,那就什么都不用做。,或者显示地调用thread.setDaemon(False),设置daemon的值为false。新的子线程会继承父线程的daemon标志。整个Python会在所有的非守护线程退出后才会结束,即进程中没有非守护线程存在的时候才结束。

也就是子线程为非deamon线程,主线程不立刻退出

import threading
import time
import gc
import datetime

def circle():
   print("begin")
   try:
       while True:
           current_time = datetime.datetime.now()
           print(str(current_time) + ' circle.................')
           time.sleep(3)
   except Exception as e:
       print('error:',e)
   finally:
       print('end')

if __name__ == "__main__":
  t = threading.Thread(target=circle)
  t.setDaemon(True)
  t.start()
  time.sleep(1)
  # stop_thread(t)
  # print('stoped threading Thread')
  current_time = datetime.datetime.now()
  print(str(current_time) + ' stoped after')
  gc.collect()
  while True:
     time.sleep(1)
     current_time = datetime.datetime.now()
     print(str(current_time) + ' end circle')

是否是主线程进行控制?

守护线程需要主线程退出才能完成子线程退出,下面是代码,再封装一层进行验证是否需要主线程退出

def Daemon_thread():
  circle_thread= threading.Thread(target=circle)
#    circle_thread.daemon = True
  circle_thread.setDaemon(True)
  circle_thread.start()  
  while running:
       print('running:',running)
       time.sleep(1)
  print('end..........')

if __name__ == "__main__":
   t = threading.Thread(target=Daemon_thread)
   t.start()  
   time.sleep(3)
   running = False
   print('stop running:',running)
   print('stoped 3')
   gc.collect()
   while True:
       time.sleep(3)
       print('stoped circle')

替换main函数执行,发现打印了 stoped 3这个标志后circle线程还在继续执行。

结论:处理信号靠的就是主线程,只有保证他活着,信号才能正确处理。

在 Python 线程中引发异常

虽然使用PyThreadState_SetAsyncExc大部分情况下可以满足我们直接退出线程的操作;但是PyThreadState_SetAsyncExc方法只是为线程退出执行“计划”。它不会杀死线程,尤其是当它正在执行外部 C 库时。尝试sleep(100)用你的方法杀死一个。它将在 100 秒后被“杀死”。while flag:它与->flag = False方法一样有效。

所以子线程有例如sleep等阻塞函数时候,在休眠过程中,子线程无法响应,会被主线程捕获,导致无法取消子线程。就是实际上当线程休眠时候,直接使用async_raise 这个函数杀掉线程并不可以,因为如果线程在 Python 解释器之外忙,它就不会捕获中断

示例代码:

import ctypes
import inspect
import threading
import time
import gc
import datetime

def async_raise(tid, exctype):
  """raises the exception, performs cleanup if needed"""
  tid = ctypes.c_long(tid)
  if not inspect.isclass(exctype):
     exctype = type(exctype)
  res = ctypes.pythonapi.PyThreadState_SetAsyncExc(tid, ctypes.py_object(exctype))
  if res == 0:
     raise ValueError("invalid thread id")
  elif res != 1:
     # """if it returns a number greater than one, you're in trouble,  
     # and you should call it again with exc=NULL to revert the effect"""  
     ctypes.pythonapi.PyThreadState_SetAsyncExc(tid, None)
     raise SystemError("PyThreadState_SetAsyncExc failed")

def stop_thread(thread):
  async_raise(thread.ident, SystemExit)

def circle():
   print("begin")
   try:
       while True:
           current_time = datetime.datetime.now()
           print(str(current_time) + ' circle.................')
           time.sleep(3)
   except Exception as e:
       print('error:',e)
   finally:
       print('end')

if __name__ == "__main__":
  t = threading.Thread(target=circle)
  t.start()
  time.sleep(1)
  stop_thread(t)
  print('stoped threading Thread')
  current_time = datetime.datetime.now()
  print(str(current_time) + ' stoped after')
  gc.collect()
  while True:
     time.sleep(1)
     current_time = datetime.datetime.now()
     print(str(current_time) + ' end circle')

signal.pthread_kill操作:

这个是最接近与 unix中pthread kill操作,网上看到一些使用,但是自己验证时候没有找到这个库里面的使用,

这是在python官方的signal解释文档里面的描述,看到是3.3 新版功能,我自己本身是python3.10,没有pthread_kill,可能是后续版本又做了去除。

python中强制关闭线程与协程与进程方法

这是网上看到的一些示例代码,但是没法执行,如果有人知道使用可以进行交流。

from signal import pthread_kill, SIGTSTP
from threading import Thread
from itertools import count
from time import sleep

def target():
   for num in count():
       print(num)
       sleep(1)

thread = Thread(target=target)
thread.start()
sleep(5)
signal.pthread_kill(thread.ident, SIGTSTP)

多进程

multiprocessing 是一个支持使用与 threading 模块类似的 API 来产生进程的包。 multiprocessing 包同时提供了本地和远程并发操作,通过使用子进程而非线程有效地绕过了 全局解释器锁。 因此,multiprocessing 模块允许程序员充分利用给定机器上的多个处理器。

其中使用了multiprocess这些库,我们可以调用它内部的函数terminate帮我们释放。例如t.terminate(),这样就可以强制让子进程退出了。

不过使用了多进程数据的交互方式比较繁琐,得使用共享内存、pipe或者消息队列这些进行子进程和父进程的数据交互。

示例代码如下:

import time
import gc
import datetime
import multiprocessing

def circle():
   print("begin")
   try:
       while True:
           current_time = datetime.datetime.now()
           print(str(current_time) + ' circle.................')
           time.sleep(3)
   except Exception as e:
       print('error:',e)
   finally:
       print('end')

if __name__ == "__main__":
   t = multiprocessing.Process(target=circle, args=())
   t.start()
   # Terminate the process
   current_time = datetime.datetime.now()
   print(str(current_time) + ' stoped before')
   time.sleep(1)
   t.terminate()  # sends a SIGTERM
   current_time = datetime.datetime.now()
   print(str(current_time) + ' stoped after')
   gc.collect()
   while True:
       time.sleep(3)
       current_time = datetime.datetime.now()
       print(str(current_time) + ' end circle')

多协程

协程(coroutine)也叫微线程,是实现多任务的另一种方式,是比线程更小的执行单元,一般运行在单进程和单线程上。因为它自带CPU的上下文,它可以通过简单的事件循环切换任务,比进程和线程的切换效率更高,这是因为进程和线程的切换由操作系统进行。

Python实现协程的主要借助于两个库:asyncio(asyncio 是从Python3.4引入的标准库,直接内置了对协程异步IO的支持。asyncio 的编程模型本质是一个消息循环,我们一般先定义一个协程函数(或任务), 从 asyncio 模块中获取事件循环loop,然后把需要执行的协程任务(或任务列表)扔到 loop中执行,就实现了异步IO)和gevent(Gevent 是一个第三方库,可以轻松通过gevent实现并发同步或异步编程,在gevent中用到的主要模式是Greenlet, 它是以C扩展模块形式接入Python的轻量级协程。)。

由于asyncio已经成为python的标准库了无需pip安装即可使用,这意味着asyncio作为Python原生的协程实现方式会更加流行。本文仅会介绍asyncio模块的退出使用。

使用协程取消,有两个重要部分:第一,替换旧的休眠函数为多协程的休眠函数;第二取消使用cancel()函数。

其中cancel() 返回值为 True 表示 cancel 成功。

示例代码如下:创建一个coroutine,然后调用run_until_complete()来初始化并启动服务器来调用main函数,判断协程是否执行完成,因为设置的num协程是一个死循环,所以一直没有执行完,如果没有执行完直接使用 cancel()取消掉该协程,最后执行成功。

import asyncio
import time

async def num(n):
   try:
       i = 0
       while True:
           print(f'i={i} Hello')
           i=i+1
           # time.sleep(10)
           await asyncio.sleep(n*0.1)
       return n
   except asyncio.CancelledError:
       print(f"数字{n}被取消")
       raise

async def main():
   # tasks = [num(i) for i in range(10)]
   tasks = [num(10)]
   complete, pending = await asyncio.wait(tasks, timeout=0.5)
   for i in complete:
       print("当前数字",i.result())
   if pending:
       print("取消未完成的任务")
       for p in pending:
           p.cancel()

if __name__ == '__main__':
   loop = asyncio.get_event_loop()
   try:
       loop.run_until_complete(main())
   finally:
       loop.close()

来源:https://blog.csdn.net/lyn631579741/article/details/127229848

标签:python,线程,协程,进程
0
投稿

猜你喜欢

  • 轻松学习Javascript闭包函数

    2024-04-28 09:46:35
  • Opencv-Python图像透视变换cv2.warpPerspective的示例

    2023-06-27 19:03:18
  • 在 Python 中利用Pool 进行多处理

    2022-03-07 13:10:36
  • 精通Javascript系列之数据类型 字符串

    2024-04-17 09:49:59
  • python中列表对象pop()方法的使用说明

    2021-10-25 09:45:40
  • Python正则表达式中flags参数的实例详解

    2021-09-23 10:43:41
  • Python疫情数据可视化分析

    2022-05-22 05:09:15
  • (X)HTML中最多余的元素标签

    2008-06-15 15:48:00
  • 基于python实现MUI区域滚动

    2023-11-04 02:38:52
  • Python终端输出彩色字符方法详解

    2023-11-18 22:04:17
  • python 安装教程之Pycharm安装及配置字体主题,换行,自动更新

    2021-01-02 06:34:20
  • Go 语言结构实例分析

    2024-04-23 09:46:36
  • python自带的http模块详解

    2021-11-03 08:59:22
  • sql 存储过程分页代码 支持亿万庞大数据量

    2024-01-24 03:31:00
  • golang实现多协程下载文件(支持断点续传)

    2024-01-31 23:54:34
  • 一个超级简单的python web程序

    2021-11-19 18:05:06
  • Python 函数简单易理解版

    2023-02-17 21:10:47
  • Python ckeditor富文本编辑器代码实例解析

    2023-08-23 13:03:44
  • python买卖股票的最佳时机(基于贪心/蛮力算法)

    2022-12-26 14:44:24
  • Python 中的lambda函数介绍

    2022-06-15 18:33:04
  • asp之家 网络编程 m.aspxhome.com