我有一个张量流 Estimator ,我已经训练了一些数据,我使用它来构建带有RNN的文本,所以步骤t 1的输入取决于步骤t的输出,这意味着我不能全部运行在一个批次中 . 所以一个简单的设置看起来像:

while not done:
  output = estimator.predict(text)
  append output to text

当我在Keras工作时,这很好用 . 但是在新的Estimator框架中,每次调用 predict 都会重建并重新加载整个模型,并且这个循环运行速度非常慢 .

有没有办法预加载模型,然后调用预测?我似乎无法在API中找到类似的东西 .