为什么't I run tensorflow session on CPU while one GPU device'的内存全部分配？

1 回答

• 0

  好的...所以在我的同事的帮助下，我有一个可行的解决方案 . 事实上，关键是对配置的修改 . 具体来说，这样的事情：

  config.gpu_options.visible_device_list ='0'

  这将确保tensorflow仅看到GPU 0 .

  事实上，我能够运行以下内容：

  #!/usr/bin/env python                                                                                                                                                                                                                        
  
  import tensorflow as tf
  
  with tf.device('/gpu:2'):
      a = tf.constant([1.0, 2.0, 3.0, 4.0, 5.0, 6.0], shape=[2, 3], name='a')
      b = tf.constant([1.0, 2.0, 3.0, 4.0, 5.0, 6.0], shape=[3, 2], name='b')
      c = tf.matmul(a, b)
  # Creates a session with log_device_placement set to True.                                                                                                                                                                                   
  config=tf.ConfigProto(log_device_placement=True)
  config.gpu_options.visible_device_list = '0,1,3'
  sess = tf.Session(config=config)
  # Runs the op.                                                                                                                                                                                                                               
  print(sess.run(c))
  

  请注意，此代码实际上指定在GPU 2上运行（您可能记得它是已满的） . 这一点很重要...... GPU根据visible_device_list重新编号，所以在上面的代码中，当我们说“with gpu：2”时，这是指列表中的第3个GPU（'0,1,3） '），实际上是GPU 3.如果你试试这个可能会咬你：

  #!/usr/bin/env python                                                                                                                                                                                                                        
  
  import tensorflow as tf
  
  with tf.device('/gpu:1'):
      a = tf.constant([1.0, 2.0, 3.0, 4.0, 5.0, 6.0], shape=[2, 3], name='a')
      b = tf.constant([1.0, 2.0, 3.0, 4.0, 5.0, 6.0], shape=[3, 2], name='b')
      c = tf.matmul(a, b)
  # Creates a session with log_device_placement set to True.                                                                                                                                                                                   
  config=tf.ConfigProto(log_device_placement=True)
  config.gpu_options.visible_device_list = '1'
  sess = tf.Session(config=config)
  # Runs the op.                                                                                                                                                                                                                               
  print(sess.run(c))
  

  问题在于它在列表中寻找第二个GPU，但在可见列表中只有一个GPU . 您将得到的错误如下：

  InvalidArgumentError（请参见上面的回溯）：无法为操作“a”分配设备：操作已明确分配给/ device：GPU：1但可用设备为[/ job：localhost / replica：0 / task：0 / device： CPU：0，/ job：localhost / replica：0 / task：0 / device：GPU：0] . 确保设备规范指的是有效设备 . [[节点：a = Constdtype = DT_FLOAT，value = Tensor，_device =“/ device：GPU：1”]]

  我想在CPU上运行时必须指定一个GPU列表，这似乎很奇怪 . 我尝试使用空列表但失败了，所以如果所有4个GPU都在使用中，我就没有解决方法 . 其他人有更好的主意吗？

  回复于 2024-05-02T23:52:54+08:00