golang的串行处理和并行处理区别

作者:吴楚衡 时间:2024-02-19 18:33:11 

程序运算时往往需要数据,而数据的IO又往往需要时间传输,而常见的串行处理,是一个任务处理完成才接着处理新的任务, 其效率低下可想而知。 假如有3个任务要处理,而每个任务都有一定的阻塞,串行处理大概是这个样子:

main.go


package main

import (
   "fmt"
   "time"
)

type Task struct {
   Duration time.Duration
   Name string
}

func main() {
   // 声明要处理的任务
   taskList := []Task {
       {
           1,
           "处理1",
       },
       {
           2,
           "处理2",
       },
       {
           3,
           "处理3",
       },
   }
   starTime := time.Now().Unix()
   for _, item := range taskList {
       goProcess(item)
   }
   fmt.Printf("用时:%ds\n", time.Now().Unix() - starTime)
}

/**
* 进行处理
*/
func goProcess(task Task) {
   time.Sleep(time.Second * task.Duration) // 假设这是io阻塞会在这里阻塞一些时间,而这些io可能是网络io也可能是磁盘io等,io完成后才会接着运行下去
   fmt.Printf("任务:%s 处理完毕\n", task.Name)
}

处理打印结果
任务:处理1 处理完毕
任务:处理2 处理完毕
任务:处理3 处理完毕
用时:6s

这种串行处理遇到IO阻塞时,弊端就是太费时间了

可以看到,程序在计算时或许用不到多少时间反而是IO阻塞占用了大量的时间。这种占着茅坑不拉屎,外面等着人直跳脚,确实不太好。而用异步处理则可以跳过阻塞,达到避免占坑的情况发生。

用协程的话,则可以在阻塞时先异步执行下去而不用等待,等所有协程都处理结束,再把处理的结果汇总起来就可以了,代码大概是这样子:

main.go


package main

import (
   "fmt"
   "sync"
   "time"
)

type Task struct {
   Duration time.Duration
   Name string
}

func main() {
   // 声明要处理的任务
   taskList := []Task {
       {
           1,
           "处理1",
       },
       {
           2,
           "处理2",
       },
       {
           3,
           "处理3",
       },
   }
   starTime := time.Now().Unix()
   var res []string //处理结果收集
   resChang := make(chan string, len(taskList))
   wg := &sync.WaitGroup{}
   // 这里收集异步处理的结果, 通过管道把数据传递过来,类似于单一订阅功能吧
   go func() {
       wg.Add(1)
       defer wg.Done() // 通道关闭后 处理结果也收集完毕,则触发 用于通知下方批处理,处理结果已经收集完毕
       for resItem := range resChang {
           res = append(res, resItem)
       }
   }()
   taskWG := &sync.WaitGroup{}
   for _, item := range taskList {
       taskWG.Add(1) // 批处理 信号量+1
       go goProcess(item, &resChang, taskWG)
   }
   taskWG.Wait()// 这里阻塞,等待所有处理执行完毕, 才接着运行下去
   close(resChang)// 已经处理完毕后就关闭处理传输通道
   wg.Wait() // 这是阻塞 等待处理收集完毕, 才接着运行去
   // 打印批处理收集的处理结果
   for _, i := range res {
       fmt.Printf("%s", i)
   }
   fmt.Printf("用时:%ds\n", time.Now().Unix() - starTime)
}

/**
* 进行处理
*/
func goProcess(task Task, resChan *chan string, taskWG *sync.WaitGroup) {
   time.Sleep(time.Second * task.Duration) // 假设这是io阻塞会在这里阻塞一些时间,而这些io可能是网络io也可能是磁盘io等,才会接着运行下去
   res := fmt.Sprintf("任务:%s 处理完毕\n", task.Name)
   defer func() {
       *resChan <- res // 把处理结果传出去
       taskWG.Done() // 批处理信号量-1 来报告处理完毕
   }()
}

运行结果
任务:处理1 处理完毕
任务:处理2 处理完毕
任务:处理3 处理完毕
用时:3s

相对于之前的串行,这次的并行有效处理IO的阻塞,相当于,串行就是占坑不用的角,并行则不管这些,你不用,先把你踹开,给有需要的人用先,这样一脚脚的踹,效率就上一来了。

来源:https://juejin.cn/post/6978865266365038629

标签:golang,串行处理,并行处理
0
投稿

猜你喜欢

  • Pycharm配置anaconda环境图文教程

    2023-11-10 02:18:20
  • Python实现打砖块小游戏代码实例

    2021-02-27 00:35:38
  • Python中random模块生成随机数详解

    2023-06-13 16:11:52
  • Windows系统配置python脚本开机启动的3种方法分享

    2022-02-27 22:09:24
  • 详细讲解HDFS的高可用机制

    2023-11-13 03:37:47
  • pytorch实现线性回归以及多元回归

    2023-04-13 02:15:27
  • Pytest测试框架基本使用方法详解

    2022-06-23 20:49:04
  • php开启openssl的方法

    2023-11-14 06:52:51
  • Python实现二分法查找及优化的示例详解

    2023-10-12 14:20:44
  • python 对dataframe下面的值进行大规模赋值方法

    2022-01-08 07:04:19
  • 详解pytorch tensor和ndarray转换相关总结

    2023-08-18 20:03:51
  • Golang中Set类型的实现方法示例详解

    2024-02-13 23:45:11
  • JavaScript实现字符串与日期的互相转换及日期的格式化

    2024-06-05 09:13:33
  • Python使用itchat 功能分析微信好友性别和位置

    2023-09-24 15:57:12
  • OpenCV哈里斯角检测|Harris Corner理论实践

    2021-03-22 02:06:10
  • INSERT INTO SELECT语句与SELECT INTO FROM语句的一些区别

    2024-01-19 11:21:13
  • MySQL数据库innodb启动失败无法重启的解决方法

    2024-01-25 13:29:12
  • 设置SQLServer数据库中某些表为只读的多种方法分享

    2024-01-23 06:27:47
  • Django 自定义404 500等错误页面的实现

    2022-06-10 17:31:40
  • Linux下安装MySQL教程

    2024-01-19 08:05:18
  • asp之家 网络编程 m.aspxhome.com