-
1 votesanswersviews
符号向量函数的Matlab梯度和粗糙度计算
我试图使用Matlab "gradient"和"hessian"函数来计算符号向量函数相对于向量的导数 . 下面是使用sigmoid函数1 /（1 e ^（ - a））的示例，其中a是特征向量乘以权重 . 以下版本都会返回错误 . 我是Matlab的新手，非常感谢任何建议 . 解决方案很可能在documentation中，但我无法解决问题 . 预先感谢您的... -
3 votesanswersviews
在展平参数张量上使用tf.gradients或tf.hessians
假设我想计算关于某些参数W（例如前馈神经网络的权重和偏差）的标量值函数的Hessian . 如果您考虑以下代码，则实施经过培训以最小化MSE损失的二维线性模型： import numpy as np import tensorflow as tf x = tf.placeholder(dtype=tf.float32, shape=[None, 2]) #inputs t = tf.place... -
0 votesanswersviews
训练后，TensorFlow Hessian矩阵不会更新
我试图使用tf.hessians函数得到Hessian矩阵 . 在每次训练后，损失值和变量都会更新，而Hessian矩阵值保持不变 . 而且，它们不依赖于可以手动设置的初始变量值 . 实际上，我的问题类似于this one，但尚未得到答案 . 这是我用于测试的代码： import tensorflow as tf # Model parameters W = tf.Variable([.3], ...