我正在tensorflow中的自定义二进制数据集上训练Inception V2 . 我使用的学习率为1e-4,辍学率为0.9,批量大小为32,亚当优化 .

虽然网络起初看起来做得很好,准确度提高,损失减少,但有时会达到精度突然下降且损失突然上升的程度 .

我应该注意到,数据集中的类是不 balancer 的,具有20%的正类和80%的负类拆分 .

您可以查看图表here .

为什么精确度突然下降然后保持这个新状态?