浅谈多卡服务器下隐藏部分 GPU 和 TensorFlow 的显存使用设置

作者:asher_lithium 时间:2021-10-05 06:50:08 

服务器有多张显卡,一般是组里共用,分配好显卡和任务就体现公德了。除了在代码中指定使用的 GPU 编号,还可以直接设置可见 GPU 编号,使程序/用户只对部分 GPU 可见。

操作很简单,使用环境变量 CUDA_VISIBLE_DEVICES 即可。

具体来说,如果使用单卡运行 Python 脚本,则可输入

CUDA_VISIBLE_DEVICES=1 python my_script.py

脚本将只使用 GPU1。

在 .py 脚本和 Notebook 中设置,则

import os

os.environ["CUDA_VISIBLE_DEVICES"] = "2"

还可以直接设置临时的环境变量:

export CUDA_VISIBLE_DEVICES="0"

此时该用户的 CUDA 只看得见 GPU0。

至于显存设置,可以设置使用比例(70%):

gpu_options = tf.GPUOptions(per_process_gpu_memory_fraction=0.7)

sess = tf.Session(config=tf.ConfigProto(gpu_options=gpu_options))

也可以按需增长:


config = tf.ConfigProto()
config.gpu_options.allow_growth = True
session = tf.Session(config=config, ...)

如果是 Keras 使用 TensorFlow 后端,则可通过如


import tensorflow as tf
from keras.backend.tensorflow_backend import set_session
config = tf.ConfigProto()
config.gpu_options.allow_growth = True
set_session(tf.Session(config=config))

更改使用设置。

来源:https://blog.csdn.net/leayc/article/details/79707205

标签:GPU,TensorFlow,显存
0
投稿

猜你喜欢

  • 详解Vue.js——60分钟组件快速入门(上篇)

    2024-05-03 15:12:29
  • zookeeper python接口实例详解

    2023-03-11 01:34:48
  • Python面试不修改数组找出重复的数字

    2023-08-07 05:04:16
  • 利用python实现可视化大屏

    2023-08-17 17:29:17
  • php利用新浪接口查询ip获取地理位置示例

    2024-03-22 08:11:29
  • Python中如何将一个类方法变为多个方法

    2022-10-10 02:01:47
  • 使用ASP遍历并列表显示目录文件

    2009-11-08 18:32:00
  • 解决python线程卡死的问题

    2023-08-03 05:58:27
  • 前端开发中一些常用技巧总结

    2010-07-18 13:13:00
  • 关于vue2使用element UI中Descriptions组件的遍历问题详解

    2024-05-09 15:15:42
  • Python实现softmax反向传播的示例代码

    2021-02-24 10:54:02
  • Bootstrap table学习笔记(2) 前后端分页模糊查询

    2024-04-29 13:12:22
  • python字典排序实例详解

    2021-10-12 12:12:02
  • HTML5硝烟弥漫

    2009-07-06 14:44:00
  • python+selenium开发环境搭建图文教程

    2022-10-17 13:04:05
  • Python面向对象之静态属性、类方法与静态方法分析

    2021-03-28 15:14:22
  • Python3实现简单可学习的手写体识别(实例讲解)

    2021-10-05 14:24:05
  • Jquery插件easyUi表单验证提交(示例代码)

    2023-07-02 05:31:51
  • 基于php解决json_encode中文UNICODE转码问题

    2023-07-02 20:51:22
  • asp如何连接MYSQL数据库?

    2010-01-01 15:49:00
  • asp之家 网络编程 m.aspxhome.com