白云岛资源网 Design By www.pvray.com

Tensorfow框架下,在模型运行时,设置对显存的占用。

1. 按比例

config = tf.ConfigProto()
config.gpu_options.per_process_gpu_memory_fraction = 0.4 # 根据自己的需求确定
session = tf.Session(config=config, ...)

2. 自适应

config = tf.ConfigProto()
config.gpu_options.allow_growth = True
session = tf.Session(config=config, ...)

设置GPU的使用率的时候,都是在创建Session的时候,对config类进行设置。

此外,当电脑上有多块GPU的时候,可以指定选取哪一快GPU进行计算。

# 在程序开头添加
os.environ['CUDA_VISIBLE_DEVICES'] = '0' #使用 GPU 0 0对应着ubuntu系统给GPU的序号,可通过Nvidia-smi命令查看

若存在多个GPU

os.environ['CUDA_VISIBLE_DEVICES'] = '0,1' # 使用 GPU 0,1

一个常见的在代码中指定GPU使用的范例:

import tensorflow as tf
import numpy as np
import os

os.environ['CUDA_VISIBLE_DEVICES']='0'
config = tf.ConfigProto()
config.gpu_options.per_process_gpu_memory_fraction=0.6

with tf.Session(graph=...,config=config) as sess:

## 后续的操作

以上这篇Tensorflow设置显存自适应,显存比例的操作就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持。

白云岛资源网 Design By www.pvray.com
广告合作:本站广告合作请联系QQ:858582 申请时备注:广告合作(否则不回)
免责声明:本站资源来自互联网收集,仅供用于学习和交流,请遵循相关法律法规,本站一切资源不代表本站立场,如有侵权、后门、不妥请联系本站删除!
白云岛资源网 Design By www.pvray.com

RTX 5090要首发 性能要翻倍!三星展示GDDR7显存

三星在GTC上展示了专为下一代游戏GPU设计的GDDR7内存。

首次推出的GDDR7内存模块密度为16GB,每个模块容量为2GB。其速度预设为32 Gbps(PAM3),但也可以降至28 Gbps,以提高产量和初始阶段的整体性能和成本效益。

据三星表示,GDDR7内存的能效将提高20%,同时工作电压仅为1.1V,低于标准的1.2V。通过采用更新的封装材料和优化的电路设计,使得在高速运行时的发热量降低,GDDR7的热阻比GDDR6降低了70%。