我正在运行一个简单的卷积神经网络,进行回归并预测结果 . 它预测了30个输出(浮点数)
无论输入如何,预测结果几乎相同 . (收敛于训练产出的意思)
基于该数据集,1000次迭代后的训练收敛到最大损失0.0107(这是很好的一次) .
What is causing this?
我试图将偏差设置为1.0,它带来的变量很少,但下面仍然相同 . 当我将偏置设置为0时,结果要差得多,所有输出都是100%相同 . 我已经使用正则化max(0,x)没有结果的改进 .
输出如下 . 如您所见,第一,第二,第三阵列几乎相同 .
[[ 66.60850525 37.19641876 29.36295891 ..., 71.91300964 47.92261505
85.02180481]
[ 66.4874115 37.09647369 29.23101997 ..., 71.90777588 47.74259186
85.10979462]
[ 66.54870605 37.19485474 29.36085892 ..., 71.84892273 47.8970108
85.05699921]
...,
[ 65.7435379 36.78604889 28.57537079 ..., 71.98916626 47.03699493
85.88017273]
[ 65.7435379 36.78604889 28.57537079 ..., 71.98916626 47.03699493
85.88017273]
[ 65.7435379 36.78604889 28.57537079 ..., 71.98916626 47.03699493
85.88017273]]
网络模型使用此参数运行
base_lr: 0.001
lr_policy: "fixed"
display: 100
max_iter: 1000
momentum: 0.9
1 回答
从输出和偏差影响结果的事实来看,我有一种感觉,也许你没有规范你的输入和输出 .
尝试在-1和1之间将它们标准化 .