Go使用协程批量获取数据加快接口返回速度

作者:HappyTeemo 时间:2024-05-21 10:23:38 

推荐go学习书籍,点击链接跳转京东官方商城购买。

服务端经常需要返回一个列表,里面包含很多用户数据,常规做法当然是遍历然后读缓存。

使用Go语言后,可以并发获取,极大提升效率。

使用channel

Copy Highlighter-hljs

package main

import (
  "fmt"
  "time"
)

func add2(a, b int, ch chan int) {
  c := a + b
  fmt.Printf("%d + %d = %d\n", a, b, c)
  ch <- 1 //执行完了就写一条表示自己完成了
}

func main() {
  start := time.Now()
  chs := make([]chan int, 10)
  for i := 0; i < 10; i++ {
     chs[i] = make(chan int)
     go add2(1, i, chs[i]) //分配了10个协程出去了
  }
  for _, ch := range chs {
     <-ch //循环等待,要每个完成才能继续,不然就等待
  }
  end := time.Now()
  consume := end.Sub(start).Seconds()
  fmt.Println("程序执行耗时(s):", consume)
}

在每个协程的 add() 函数业务逻辑完成后,我们通过 ch <- 1 语句向对应的通道中发送一个数据。

在所有的协程启动完成后,我们再通过 <-ch 语句从通道切片 chs 中依次接收数据(不对结果做任何处理,相当于写入通道的数据只是个标识而已,表示这个通道所属的协程逻辑执行完毕).

直到所有通道数据接收完毕,然后打印主程序耗时并退出。

使用WaitGroup

  • Add:WaitGroup 类型有一个计数器,默认值是0,我们可以通过 Add 方法来增加这个计数器的值,通常我们可以通过个方法来标记需要等待的子协程数量;

  • Done:当某个子协程执行完毕后,可以通过 Done 方法标记已完成,该方法会将所属 WaitGroup 类型实例计数器值减一,通常可以通过 defer 语句来调用它;

  • Wait:Wait 方法的作用是阻塞当前协程,直到对应 WaitGroup 类型实例的计数器值归零,如果在该方法被调用的时候,对应计数器的值已经是 0,那么它将不会做任何事情

package main

import (
  "fmt"
  "sync"
)

func addNum(a, b int, deferFunc func()) {
  defer func() {
     deferFunc()
  }()
  c := a + b
  fmt.Printf("%d + %d = %d\n", a, b, c)
}

func main() {
  var wg sync.WaitGroup
  wg.Add(10) //等于发了10个令牌
  for i := 0; i < 10; i++ {
     go addNum(i, 1, wg.Done) //每次执行都消耗令牌
  }
  wg.Wait() //等待令牌消耗完
}

需要注意的是,该类型计数器不能小于0,否则会抛出如下 panic:

panic: sync: negative WaitGroup counter

应用到实践

func GetManyBase(userIds []int64) []UserBase {
  userCaches := make([]UserBase, len(userIds))

var wg sync.WaitGroup
  for index, userId := range userIds {
     wg.Add(1)
     go func(index int, userId int64, userCaches []UserBase) {
        userCaches[index] = NewUserCache(userId).GetBase()
        wg.Done()
     }(index, userId, userCaches)
  }
  wg.Wait()

return userCaches
}

这种写法有两个问题:
1.并发肯定带来乱序,所以要考虑需要排序的业务场景。
2.map是线程不安全的,并发读写会panic。

优化一下:

func GetManyBase(userIds []int64) []UserBase {
userCaches := make([]UserBase, len(userIds))

var scene sync.Map

var wg sync.WaitGroup
for index, userId := range userIds {
wg.Add(1)
go func(index int, userId int64, userCaches []UserBase) {
scene.Store(userId, NewUserCache(userId).GetBase())
wg.Done()
}(index, userId, userCaches)
}
wg.Wait()

i := 0
for _, userId := range userIds {
if value, ok := scene.Load(userId); ok {
userCaches[i] = value.(UserBase)
}
i++
}

return userCaches
}

为什么不直接上锁?

  • 因为经过我的测试,会很慢,没有sync.Map优化的好。

  • 这样可以保证顺序。

来源:https://www.cnblogs.com/HappyTeemo/p/17097505.html

标签:Go,协程,批量获取数据
0
投稿

猜你喜欢

  • div遮罩层实现实例代码

    2009-01-11 18:38:00
  • php设计模式 Singleton(单例模式)

    2023-11-20 14:37:50
  • PDO::beginTransaction讲解

    2023-06-06 00:57:46
  • 详解Python map函数及Python map()函数的用法

    2021-02-13 16:28:07
  • php $_SESSION会员登录实例分享

    2024-06-05 09:47:58
  • 解决django中form表单设置action后无法回到原页面的问题

    2023-06-27 00:27:54
  • 解密SQL Server数据库系统的编译

    2009-03-16 17:33:00
  • yahoo 页面的标签效果

    2024-04-10 10:38:14
  • Python3中使用PyMongo的方法详解

    2023-08-19 16:00:58
  • Python得到弹幕并保存到Excel中怎么设置

    2021-04-04 16:42:22
  • Python使用Chrome插件实现爬虫过程图解

    2023-08-01 02:02:29
  • 简单仿LightBox效果

    2008-09-19 21:35:00
  • Win10用vscode打开anaconda环境中的python出错问题的解决

    2023-04-21 09:21:21
  • python机器学习使数据更鲜活的可视化工具Pandas_Alive

    2022-09-26 04:57:12
  • openCV实践项目之银行卡卡号识别功能

    2022-04-19 19:23:29
  • Python编程中使用Pillow来处理图像的基础教程

    2021-07-20 10:53:19
  • asp中用insert into语句向数据库插入记录(添加信息)的方法

    2011-02-05 10:46:00
  • Python中np.linalg.norm()用法实例总结

    2021-01-08 03:36:35
  • python爬取微信公众号文章

    2021-12-30 18:46:35
  • Python中的FTP通信模块ftplib的用法整理

    2021-12-31 19:35:45
  • asp之家 网络编程 m.aspxhome.com