首页 文章

如何在Tensorflow中以不同的学习率训练两个密集层?

提问于
浏览
3

我正在尝试在Tensorflow中构建一个多任务CNN,其中有两个密集的密集层并行,一个用于年龄预测,另一个用于性别预测 . 我如何训练每个密集层的不同数量的时期,因为一个可以在另一个之前收敛,并且训练相同的没有一个时期会过度拟合其中一个?

此外,如果我将年龄和性别的渐变传播到CNN,它是否会过度拟合,因为它的权重是以密集层的两倍速率更新的?

1 回答

  • 1

    我问了一个类似的问题,我终于找到了答案:LINK

    解决方案:您可以定义 2 different train_step ,每个都有 his own learning rate . 每个train_step可以被称为选定的次数 . 此外,如果您希望某些变量仅可用于选定的train_step,则可以定义一些依赖项 . (见documentation) .

相关问题