-
0 votesanswersviews
如何在SedleToSeq演示中为Paddle添加层到RNN编码器 - 解码器网络?
我正在尝试在GNMT文件中的 paddle-paddle text generation demo中向RNN SeqToSeq网络添加额外的编码器和解码器层:https://arxiv.org/pdf/1609.08144v2.pdf 在代码点(https://github.com/baidu/Paddle/blob/master/demo/seqToseq/seqToseq_net.py#L1... -
0 votesanswersviews
我可以将不同的开始符号输入RNN解码器吗?
当RNN用于预测句子时,解码器状态用输入初始化: <S> (起始符号,提示解码器生成响应的第一个字) 恩 . 给定 <S> ,预测 The ,然后给出 The ,预测 car . 如果我的目标是预测开始时序列的结束, Input: "The car was" Target: "moving down the hill." 喂第一个... -
0 votesanswersviews
NLG数据集的热矢量表示
我正在使用RNN编码器解码器网络进行自然语言生成 . 我有一个餐馆的数据集 . 现在我对这个dataset的表示很困惑,以便我可以将它提供给我的RNN . 如果它是一个单词预测,那么我会根据我的词汇量大小使用一个热矢量表示,并在单词或字符之间逐行分隔 . 你能否建议我如何在这里执行类似的任务 . -
3 votesanswersviews
Seq2seq LSTM无法生成合理的摘要
我正在训练keras中的编码器 - 解码器LSTM用于文本摘要和具有以下架构的CNN数据集 Picture of bidirectional encoder-decoder LSTM 我正在使用skip-gram和预训练单词嵌入(大小为256) 然后我用零填充输入序列,这样所有文章的长度都相等 我在每个摘要中放置一个1的向量作为“开始”令牌 稍后在解码器输出中使用MSE,RMSPr... -
2 votesanswersviews
DecoderRNN的输出包含额外的维度(Pytorch)
我开发了一个编码器(CNN) - 解码器(RNN)网络,用于pytorch中的图像字幕 . 解码器网络接收两个输入 - 来自编码器的上下文特征向量和用于训练的字幕的字嵌入 . 上下文特征向量的大小= embed_size ,它也是 Headers 中每个单词的嵌入大小 . 我在这里的问题更关注Class DecoderRNN的输出 . 请参阅下面的代码 . class DecoderRNN(nn...