缩放sparse_softmax_cross_entropy_with

如何缩放衰落来自 sparse_softmax_cross_entropy_with_logits 的渐变 . 例如，我试图除以128如下，但我发现错误：

new_gradients = [(grad/128, var) for (grad, var) in gradients] 
TypeError: unsupported operand type(s) for /: 'IndexedSlices' and 'int'

我使用的代码如下：

loss = tf.nn.sparse_softmax_cross_entropy_with_logits(logits=logits, labels=labels)

gradients = opt.compute_gradient(loss)

new_gradients = [(grad/128, var) for (grad, var) in gradients]

train_step = opt.appy_gradients(new_gradients)

1 回答

我找到了解决问题的方法如下：

new_gradients = [(grad/128, var) for (grad, var) in gradients]

应该

new_gradients = [(tf.div(grad, 128), var) for (grad, var) in gradients]

回复于 2024-05-02T06:59:17+08:00

缩放sparse_softmax_cross_entropy_with_logits

1 回答

相关问题