首页 文章

在RNN中的每一对序列中重置LSTM中的c_t和h_t

提问于
浏览
1

我正在尝试在Tensorflow中实现RNN以进行文本预测 . 我为此目的使用BasicLSTMCell,序列长度为100 .

如果我理解正确的话,每当我们输入一个新序列时,LSTM的输出激活 h_t 和激活 c_t 都会被重置(也就是说,它们会在序列中更新100次,但是一旦我们移动到批处理中的下一个序列,他们被重置为0) .

有没有办法使用Tensorflow防止这种情况发生?也就是说,继续在批处理中的所有序列中使用更新的 c_th_t ? (然后在移动到下一批时重置它们) .

1 回答

  • 2

    我不认为你会这样做,因为批处理中的每个例子都应该是独立的 . 如果不是,则应该只有批量大小为1且序列长度为100 * batch_size . 通常,您可能希望在批次之间保存状态 . 在这种情况下,您需要将RNN状态保存到变量中,或者我希望允许用户使用占位符将其输入 .

相关问题