pytorch 限制GPU使用效率详解(计算效率)
作者：脸码 发布时间：2022-01-24 06:55:53
问题
用过 tensorflow 的人都知道， tf 可以限制程序在 GPU 中的使用效率，但 pytorch 中没有这个操作。
思路
于是我想到了一个代替方法，玩过单片机点灯的同学都知道，灯的亮度是靠占空比实现的，这实际上也是计算机的运行原理。 那我们是不是也可以通过增加 GPU 不工作的时间，进而降低 GPU 的使用效率 ？
主要代码
import time
...
rest_time = 0.15
...
for _ in range( XXX ):
...
outputs = all_GPU_operations( data_set ) # 假设所有的GPU运算都在这里
time.sleep( rest_time ) # 让显卡休息一会再进行下个循环的使用
...
...
这样子 GPU 的使用效率就可以减小了。
rest_time 的越大 GPU 使用率越低，rest_time 的越小 GPU 使用率越高。
缺点是很难直接控制 GPU 的具体使用率，rest_time 得自己调试后确定。
补充知识：深度学习PyTorch，TensorFlow中GPU利用率较低,使用率周期性变化的问题
在用tensorflow训练神经网络时,发现训练迭代的速度时而快时而慢,监督的GPU使用率也是周期性变化,通过了解,发现原因是:
GPU在等待CPU读取,预处理,并传输数据过来,因此要提高GPU的使用率,降低GPU的等待时间,需要加快CPU的处理速度.
在PYTORCH中的解决方案是用torch.utils.data.DataLoader,用num_workers设置线程数:
torch.utils.data.DataLoader(image_datasets[x],
batch_size=batch_size,
shuffle=True,
num_workers=8,
pin_memory=True)
在tensorflow中的解决方案是用tf.data.Dataset.map(num_parallel_calls=8)中的num_parallel_calls设置读取数据的线程数:
用 tf.data读取数据, tf.data.Dataset中有一个map函数,它有个num_parallel_calls参数,可以控制CPU的线程,加快数据的读取速度,一般将线程设置为8效果最好.
来源：https://blog.csdn.net/qq_38329094/article/details/105435559
0
投稿猜你喜欢
- baiduclient.pyimport urllib.parseimport gzipimport jsonimport refrom h
- python time.sleep()-睡眠线程还是进程?它会阻止线程。如果查看Python源代码中的Modules / timemodul
- 本文实例讲述了Python实现对文件进行单词划分并去重排序操作。分享给大家供大家参考，具体如下：文件名：test1.txt文件内容：But
在进行增强现实的时候我们需要用到两个工具包：PyGame 和 PyOpenGL，本章在python环境下对这两个工具包的安装进行说明。一、安- 本文实例讲述了Python简单实现网页内容抓取功能。分享给大家供大家参考，具体如下：使用模块：import urllib2 import u
- 定时任务：1、 线程睡眠函数 sleep() ——粗暴！一直占有 CPU 资源，导致后续操作无法执行2、 threading.Timer(1
- 服务器的CentOS 7中自带的python版本是python-2.7.5，需要再安装一个 python-3.8.1一、查看版本安
- 第一个方法： MySQL 4.1 中文乱码的问题 最近要将 MySQL 4.0 升级到 MySQL 4.1 ，发现了中文乱码的问题，希望以下
- 前言当你逐渐了解tushare之后，你会发现我们要进行数据分析只靠tushare是不够的，接下来我将介绍如何利用第三方软件将tushare获
- 这篇文章主要介绍了如何基于python实现归一化处理,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友
- 基于bootstrap插件实现autocomplete自动完成表单,提供脚本代码,用例,以及后台服务端(php)， 原文有些没说清楚的地方，
- 我的Mysql中已经有了项目需要使用的相关数据库，现在需要通过django来获取Mysql里的数据并使用，下面记录配置django与mysq
- 一、YOLOv5简介YOLOv5是一种目标检测算法，由ultralytics公司开发。它采用单一神经网络同时完成对象识别和边界框回归，并使用
- 很久很久以前，有一群人，他们决定用8个可以开合的晶体管来组合成不同的状态，以表示世界上的万物。他们看到8个开关状态是好的，于是他们把这称为字
- 第一招、mysql服务的启动和停止net stop mysqlnet start mysql第二招、登陆mysql语法如下： mysql -
- 生成器是迭代器，同时也并不仅仅是迭代器，不过迭代器之外的用途实在是不多，所以我们可以大声地说：生成器提供了非常方便的自定义迭代器的途径。这是
- 前言通常在读写文件之前，我们需要先判断文件或者目录是否存在。不然在接下来的处理中可能会报错。所以在做任何操作之前，最好还是先判断文件、目录是
- 什么是JSONP首先提一下JSON这个概念，JSON是一种轻量级的数据传输格式，被广泛应用于当前Web应用中。JSON格式数据的编码和解析基
- 昨天下班后忽然兴起想写一个爬虫抓抓网页上的东西。花了一个钟简单学习了python的基础语法，然后参照网上的例子自己写了个爬虫。python数
- 如下所示：'''Created on 2018-4-20例子:每天凌晨3点执行func方法''
