-
13 votesanswersviews
如何使用累积渐变更新模型参数?
我正在使用TensorFlow构建一个深度学习模型 . TensorFlow的新手 . 由于某种原因,我的模型具有有限的批量大小,然后这种有限的批量大小将使模型具有高的方差 . 所以,我想用一些技巧来增加批量 . 我的想法是存储每个小批量的渐变,例如64个小批量,然后将渐变相加,使用这64个小批量训练数据的平均梯度来更新模型的参数 . 这意味着对于前63个小批量,不更新参数,并且在64小批量之后... -
16 votesanswersviews
CSS3渐变用于从Illustrator复制'inner glow'效果并应用border-radius
我正在努力绕过CSS3 Gradients(特别是径向的),并且这样做,我想我已经为自己设定了一个相对艰难的挑战 . 在Adobe Illustrator中,我创建了以下“按钮”样式 . 为了创建这个图像,我创建了一个背景颜色为 rgb(63,64,63) 或 #3F403F 的矩形,然后'stylized'它的边界半径为15px . 然后我使用了25%不透明度,8px模糊,从中心白色的“内部发... -
2 votesanswersviews
使用Flash显示SVG渐变?
我正在使用AS3(Flash)来实现 read SVG files 和 display . 问题是正确显示 linear/radial gradient. 以下是SVG中 Red 到 Blue 的简单 linear gradient 示例 . <linearGradient id="GRADIENT_1" gradientUnits="userSpaceOnU... -
5 votesanswersviews
使用Tensorflow中的GRU将先前时间步长的渐变到当前时间步长
我在tensorflow中有以下模型: def output_layer(input_layer, num_labels): ''' :param input_layer: 2D tensor :param num_labels: int. How many output labels in total? (10 for cifar10 and 100 for cifar1... -
0 votesanswersviews
如何在Tensorflow中逐层有效地计算梯度?
我正在尝试使用Tensorflow实现此paper中描述的分布式同步SGD方法 . 为此,我需要逐层计算和应用渐变 . 原则上我可以通过以下方式完成(obs!不完整的代码: #WORKER CODE opt = tf.train.GradientDescentOptimizer(learning_rate) for layer_vars in all_layer_vars: grads_v... -
4 votesanswersviews
张量流量梯度
我正在尝试调整tf DeepDream教程代码以使用其他模型 . 现在我打电话给tf.gradients()时: t_grad = tf.gradients(t_score, t_input)[0] g = sess.run(t_grad, {t_input:img0}) 我收到类型错误: TypeError: Fetch argument None of None has inval... -
0 votesanswersviews
修改中间梯度Tensorflow
您可以使用 tf.gradients() 获得中间渐变,并且可以通过对此结果应用op(如剪切)来创建新的张量,但是如何相应地修改反向传播? 例如,实现Huber loss(delta = 1) . 第一种方法是在批处理维度上创建一个类似的布尔掩码 . cond=tf.less(input_tensor,1) cond=tf.cast(cond,"tf.float32") los... -
0 votesanswersviews
Tensorflow:tf.trdients在图形的不同路径之间
我正在研究DDPG实现,它需要相对于另一个网络(下面的: actor )输出计算一个网络(低于: critic )的梯度 . 我的代码在很大程度上已经使用了队列而不是feed dicts,但我还没有对这个特定部分这样做: import tensorflow as tf tf.reset_default_graph() states = tf.placeholder(tf.float32, (No... -
0 votesanswersviews
在tf.gradients()用于计算TensorFlow中的渐变之后,有没有办法显示渐变矩阵的元素?
使用tf.gradients计算梯度并将其分配给张量'grad' . 有没有办法显示这个张量的值?有没有办法访问这个张量的各个元素 . -
0 votesanswersviews
TensorFlow softmax_crossentropy_with logits:“标签”也经过培训(如果可以区分)?
具有logits loss函数的softmax交叉熵用于减少提供给函数的logits和标签之间的差异 . 通常,标签是固定的,用于监督学习并且适应对数 . 但是当标签来自可区分的来源(例如另一个网络)时会发生什么?两个网络,即“logits network”和“标签网络”是否都会被后续优化器训练,或者此丢失功能是否始终将标签视为固定? TLDR:tf.nn.softmax_cross_entrop... -
0 votesanswersviews
应用渐变的图像:通过css添加渐变的更好性能或直接应用于src img?
说我需要在图像上使用渐变 . 我有几个像这样的图像 . 在性能方面,最好是直接在图像(photoshop等)上进行,如附加图像,还是在图像上使用css-gradient更好? -
2 votesanswersviews
Tensorflow高效的每像素梯度计算
我正在使用tensorflow重新实现论文Learning Image Matching by Simply Watching Video,当我从网络中抓取渐变时,我面临着一些严重的性能问题 . 为了快速回顾他们在论文中所做的事情,他们拥有训练有素的网络,他们做了1个前向道具以获得插值图像,然后他们做了w * h / stride ^ 2反向推进以获得每个输入的输出的梯度像素 . 由于反向传播的数... -
3 votesanswersviews
TensorFlow渐变:通过tf.gradients获得不必要的0.0渐变
我们假设我有以下变量 embeddings = tf.Variable(tf.random_uniform(dtype = tf.float32,shape = [self.vocab_size,self.embedding_dim],minval = -0.001,maxval = 0.001))sent_1 = construct_sentence(word_ids_1)sent_2 = c... -
277 votesanswersviews
CSS3透明度渐变
RGBA非常有趣, -webkit-gradient , -moz-gradient 和呃... progid:DXImageTransform.Microsoft.gradient ......是的 . :) 有没有办法将RGBA和渐变两者结合起来,这样就可以使用当前/最新的CSS规范来实现Alpha透明度的渐变 .