我使用tensorflow运行深度学习模型（CNN） . 在这个时代，我已经多次观察到损失和准确性都有所增加，或两者都有所减少 . 我的理解是两者总是成反比关系的 . 什么可能是同时增加或减少的情况 .
随着训练过程的进行，损失减少，除了由小批量梯度下降引入的一些波动和/或诸如丢失（引入随机噪声）的正则化技术 .
如果损失减少，培训过程进展顺利 .
相反，它是（验证我认为）准确性，它是衡量模型预测效果的标准 .
如果模型正在学习，则准确度会提高 . 如果模型过度拟合，则精度会停止增加，甚至可能开始减小 .
如果损失减少且精度下降，则您的模型过度拟合 .
如果损失增加并且准确度增加也是因为你的正则化技术运行良好并且你正在应对过度拟合问题 . 只有当损失开始减少而精度继续增加时，才会出现这种情况 . 否则，如果损失不断增长，您的模型就会出现分歧，您应该寻找原因（通常您使用的学习率过高） .
1 回答
随着训练过程的进行，损失减少，除了由小批量梯度下降引入的一些波动和/或诸如丢失（引入随机噪声）的正则化技术 .
如果损失减少，培训过程进展顺利 .
相反，它是（验证我认为）准确性，它是衡量模型预测效果的标准 .
如果模型正在学习，则准确度会提高 . 如果模型过度拟合，则精度会停止增加，甚至可能开始减小 .
如果损失减少且精度下降，则您的模型过度拟合 .
如果损失增加并且准确度增加也是因为你的正则化技术运行良好并且你正在应对过度拟合问题 . 只有当损失开始减少而精度继续增加时，才会出现这种情况 . 否则，如果损失不断增长，您的模型就会出现分歧，您应该寻找原因（通常您使用的学习率过高） .