Tensorflow设置显存自适应,显存比例的操作

(编辑：jimmy 日期: 2024/11/19 浏览：3 次 )

Tensorfow框架下，在模型运行时，设置对显存的占用。

1. 按比例

config = tf.ConfigProto()
config.gpu_options.per_process_gpu_memory_fraction = 0.4 # 根据自己的需求确定
session = tf.Session(config=config, ...)

2. 自适应

config = tf.ConfigProto()
config.gpu_options.allow_growth = True
session = tf.Session(config=config, ...)

设置GPU的使用率的时候，都是在创建Session的时候，对config类进行设置。

此外，当电脑上有多块GPU的时候，可以指定选取哪一快GPU进行计算。

# 在程序开头添加
os.environ['CUDA_VISIBLE_DEVICES'] = '0' #使用 GPU 0 0对应着ubuntu系统给GPU的序号,可通过Nvidia-smi命令查看

若存在多个GPU

os.environ['CUDA_VISIBLE_DEVICES'] = '0,1' # 使用 GPU 0，1

一个常见的在代码中指定GPU使用的范例：

import tensorflow as tf
import numpy as np
import os

os.environ['CUDA_VISIBLE_DEVICES']='0'
config = tf.ConfigProto()
config.gpu_options.per_process_gpu_memory_fraction=0.6

with tf.Session(graph=...,config=config) as sess:

## 后续的操作

以上这篇Tensorflow设置显存自适应,显存比例的操作就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持。

上一篇：Python使用enumerate获取迭代元素下标
下一篇：TensorFlow 显存使用机制详解