我正试图在张量流中使用LSTM实现Seq2Seq模型(从头开始,没有rnn单元格),模型工作正常,但一句话的预测时间对我来说很慢 . 约2 - > 6秒一句话 . 这是正常的吗?
我的模特:
2 LSTM用于编码
2 LSTM用于解码
注意机制
词汇量:400k
单词矢量维度:300
预测代码完全在CPU上 .
我读了一些纸,但它们没有提供预测速度 . 谢谢!