我正试图在张量流中使用LSTM实现Seq2Seq模型(从头开始,没有rnn单元格),模型工作正常,但一句话的预测时间对我来说很慢 . 约2 - > 6秒一句话 . 这是正常的吗?

我的模特:

2 LSTM用于编码

2 LSTM用于解码

注意机制

词汇量:400k

单词矢量维度:300

预测代码完全在CPU上 .

我读了一些纸,但它们没有提供预测速度 . 谢谢!