Go语言同步与异步执行多个任务封装详解(Runner和RunnerAsync)

作者:雪山飞猪 时间:2024-05-28 16:14:16 

前言

同步适合多个连续执行的,每一步的执行依赖于上一步操作,异步执行则和任务执行顺序无关(如从10个站点抓取数据)

同步执行类RunnerAsync

支持返回超时检测,系统中断检测

错误常量定义


//超时错误
var ErrTimeout = errors.New("received timeout")
//操作系统系统中断错误
var ErrInterrupt = errors.New("received interrupt")

实现代码如下


package task
import (
"os"
"time"
"os/signal"
"sync"
)
//异步执行任务
type Runner struct {
//操作系统的信号检测
interrupt chan os.Signal
//记录执行完成的状态
complete chan error
//超时检测
timeout <-chan time.Time
//保存所有要执行的任务,顺序执行
tasks []func(id int) error
waitGroup sync.WaitGroup
lock sync.Mutex
errs []error
}
//new一个Runner对象
func NewRunner(d time.Duration) *Runner {
return &Runner{
interrupt: make(chan os.Signal, 1),
complete: make(chan error),
timeout: time.After(d),
waitGroup: sync.WaitGroup{},
lock: sync.Mutex{},
}
}
//添加一个任务
func (this *Runner) Add(tasks ...func(id int) error) {
this.tasks = append(this.tasks, tasks...)
}
//启动Runner,监听错误信息
func (this *Runner) Start() error {
//接收操作系统信号
signal.Notify(this.interrupt, os.Interrupt)
//并发执行任务
go func() {
this.complete <- this.Run()
}()
select {
//返回执行结果
case err := <-this.complete:
return err
//超时返回
case <-this.timeout:
return ErrTimeout
}
}
//异步执行所有的任务
func (this *Runner) Run() error {
for id, task := range this.tasks {
if this.gotInterrupt() {
 return ErrInterrupt
}
this.waitGroup.Add(1)
go func(id int) {
 this.lock.Lock()
 //执行任务
 err := task(id)
 //加锁保存到结果集中
 this.errs = append(this.errs, err)
this.lock.Unlock()
 this.waitGroup.Done()
}(id)
}
this.waitGroup.Wait()
return nil
}
//判断是否接收到操作系统中断信号
func (this *Runner) gotInterrupt() bool {
select {
case <-this.interrupt:
//停止接收别的信号
signal.Stop(this.interrupt)
return true
//正常执行
default:
return false
}
}
//获取执行完的error
func (this *Runner) GetErrs() []error {
return this.errs
}

使用方法

Add添加一个任务,任务为接收int类型的一个闭包

Start开始执行伤,返回一个error类型,nil为执行完毕, ErrTimeout代表执行超时,ErrInterrupt代表执行被中断(类似Ctrl + C操作)

测试示例代码


package task
import (
"testing"
"time"
"fmt"
"os"
"runtime"
)
func TestRunnerAsync_Start(t *testing.T) {
//开启多核
runtime.GOMAXPROCS(runtime.NumCPU())
//创建runner对象,设置超时时间
runner := NewRunnerAsync(8 * time.Second)
//添加运行的任务
runner.Add(
createTaskAsync(),
createTaskAsync(),
createTaskAsync(),
createTaskAsync(),
createTaskAsync(),
createTaskAsync(),
createTaskAsync(),
createTaskAsync(),
createTaskAsync(),
createTaskAsync(),
createTaskAsync(),
createTaskAsync(),
createTaskAsync(),
)
fmt.Println("同步执行任务")
//开始执行任务
if err := runner.Start(); err != nil {
switch err {
case ErrTimeout:
 fmt.Println("执行超时")
 os.Exit(1)
case ErrInterrupt:
 fmt.Println("任务被中断")
 os.Exit(2)
}
}
t.Log("执行结束")
}
//创建要执行的任务
func createTaskAsync() func(id int) {
return func(id int) {
fmt.Printf("正在执行%v个任务\n", id)
//模拟任务执行,sleep两秒
//time.Sleep(1 * time.Second)
}
}

执行结果


同步执行任务
正在执行0个任务
正在执行1个任务
正在执行2个任务
正在执行3个任务
正在执行4个任务
正在执行5个任务
正在执行6个任务
正在执行7个任务
正在执行8个任务
正在执行9个任务
正在执行10个任务
正在执行11个任务
正在执行12个任务
runnerAsync_test.go:49: 执行结束

异步执行类Runner

支持返回超时检测,系统中断检测

实现代码如下


package task
import (
"os"
"time"
"os/signal"
"sync"
)
//异步执行任务
type Runner struct {
//操作系统的信号检测
interrupt chan os.Signal
//记录执行完成的状态
complete chan error
//超时检测
timeout <-chan time.Time
//保存所有要执行的任务,顺序执行
tasks []func(id int) error
waitGroup sync.WaitGroup
lock sync.Mutex
errs []error
}
//new一个Runner对象
func NewRunner(d time.Duration) *Runner {
return &Runner{
 interrupt: make(chan os.Signal, 1),
 complete: make(chan error),
 timeout: time.After(d),
 waitGroup: sync.WaitGroup{},
 lock:  sync.Mutex{},
}
}
//添加一个任务
func (this *Runner) Add(tasks ...func(id int) error) {
this.tasks = append(this.tasks, tasks...)
}
//启动Runner,监听错误信息
func (this *Runner) Start() error {
//接收操作系统信号
signal.Notify(this.interrupt, os.Interrupt)
//并发执行任务
go func() {
 this.complete <- this.Run()
}()
select {
//返回执行结果
case err := <-this.complete:
 return err
 //超时返回
case <-this.timeout:
 return ErrTimeout
}
}
//异步执行所有的任务
func (this *Runner) Run() error {
for id, task := range this.tasks {
 if this.gotInterrupt() {
  return ErrInterrupt
 }
 this.waitGroup.Add(1)
 go func(id int) {
  this.lock.Lock()
  //执行任务
  err := task(id)
  //加锁保存到结果集中
  this.errs = append(this.errs, err)
  this.lock.Unlock()
  this.waitGroup.Done()
 }(id)
}
this.waitGroup.Wait()
return nil
}
//判断是否接收到操作系统中断信号
func (this *Runner) gotInterrupt() bool {
select {
case <-this.interrupt:
 //停止接收别的信号
 signal.Stop(this.interrupt)
 return true
 //正常执行
default:
 return false
}
}
//获取执行完的error
func (this *Runner) GetErrs() []error {
return this.errs
}

使用方法

Add添加一个任务,任务为接收int类型,返回类型error的一个闭包

Start开始执行伤,返回一个error类型,nil为执行完毕, ErrTimeout代表执行超时,ErrInterrupt代表执行被中断(类似Ctrl + C操作)

getErrs获取所有的任务执行结果

测试示例代码


package task
import (
"testing"
"time"
"fmt"
"os"
"runtime"
)
func TestRunner_Start(t *testing.T) {
//开启多核心
runtime.GOMAXPROCS(runtime.NumCPU())
//创建runner对象,设置超时时间
runner := NewRunner(18 * time.Second)
//添加运行的任务
runner.Add(
 createTask(),
 createTask(),
 createTask(),
 createTask(),
 createTask(),
 createTask(),
 createTask(),
 createTask(),
 createTask(),
 createTask(),
 createTask(),
 createTask(),
 createTask(),
 createTask(),
)
fmt.Println("异步执行任务")
//开始执行任务
if err := runner.Start(); err != nil {
 switch err {
 case ErrTimeout:
  fmt.Println("执行超时")
  os.Exit(1)
 case ErrInterrupt:
  fmt.Println("任务被中断")
  os.Exit(2)
 }
}
t.Log("执行结束")
t.Log(runner.GetErrs())
}
//创建要执行的任务
func createTask() func(id int) error {
return func(id int) error {
 fmt.Printf("正在执行%v个任务\n", id)
 //模拟任务执行,sleep
 //time.Sleep(1 * time.Second)
 return nil
}
}

执行结果


异步执行任务
正在执行2个任务
正在执行1个任务
正在执行4个任务
正在执行3个任务
正在执行6个任务
正在执行5个任务
正在执行9个任务
正在执行7个任务
正在执行10个任务
正在执行13个任务
正在执行8个任务
正在执行11个任务
正在执行12个任务
正在执行0个任务
runner_test.go:49: 执行结束
runner_test.go:51: [<nil> <nil> <nil> <nil> <nil> <nil> <nil> <nil> <nil> <nil> <nil> <nil> <nil> <nil>]

来源:http://www.cnblogs.com/chenqionghe/p/8269556.html

标签:go语言,同步,异步
0
投稿

猜你喜欢

  • 跟老齐学Python之数据类型总结

    2023-05-30 07:15:07
  • 关于pytorch多GPU训练实例与性能对比分析

    2022-05-23 18:18:12
  • 使用python获取电脑的磁盘信息方法

    2021-05-09 18:14:42
  • python和php哪个更适合写爬虫

    2023-10-28 00:51:14
  • Python数据结构与算法之跳表详解

    2021-01-22 17:30:41
  • python palywright库基本使用

    2021-03-30 17:34:42
  • 使用Python编写一个模仿CPU工作的程序

    2021-04-28 05:28:25
  • python 把列表转化为字符串的方法

    2023-06-14 20:35:48
  • MySQL命令行导出与导入数据库

    2024-01-14 03:30:14
  • Golang简介与基本语法的学习

    2024-02-07 17:03:06
  • 详解Swift中属性的声明与作用

    2023-04-16 07:26:17
  • MySQL 5.6 (Win7 64位)下载、安装与配置图文教程

    2024-01-20 21:13:52
  • 原生js实现给指定元素的后面追加内容

    2024-04-28 09:46:12
  • Python中super函数的用法

    2023-07-09 20:09:40
  • MySQL 5.0.16的乱码问题解决方法

    2011-12-14 18:33:24
  • PHP中合并数组的常见方法分享

    2023-05-25 12:02:48
  • mysql 5.5 安装配置方法图文教程

    2024-01-20 04:28:35
  • github pull最新代码实现方法

    2023-11-22 10:08:07
  • 全新感受Oracle 9i

    2010-07-16 13:32:00
  • 在Django中使用ElasticSearch

    2022-11-18 11:01:22
  • asp之家 网络编程 m.aspxhome.com