首页 文章

为什么我的精确回忆和ROC曲线不平滑？

提问于
浏览 次
-1

我有一些标记为0或1的数据，我试图使用随机森林预测这些类 . 每个实例都标有20个用于训练随机森林的特征（约30.000个训练实例和~6000个测试实例） .

我正在使用以下代码绘制精确调用和ROC曲线：

precision, recall, _ = precision_recall_curve(y_test, y_pred)
plt.step(recall, precision, color='b', alpha=0.2,where='post')
plt.fill_between(recall, precision, step='post', alpha=0.2, color='b')

fpr, tpr, _ = roc_curve(y_test, y_pred)
roc_auc = auc(fpr, tpr)
plt.plot(fpr, tpr, color='darkorange', lw=2, label='ROC curve (area = %0.2f)' % roc_auc)
plt.plot([0, 1], [0, 1], color='navy', lw=2, linestyle='--')

到目前为止，我所看到的所有PR和ROC曲线的精度/召回率都有锯齿/平滑下降，而ROC线的平滑/锯齿增加 . 但由于某种原因，我的PR和ROC曲线总是如下所示：

PR curve

ROC curve
由于某种原因，只有一个点可以改变方向 . 这是由于我编码错误还是数据/分类问题固有的问题？如果是这样，如何解释这种行为？

python machine-learning scikit-learn classification random-forest

2 回答

  • 1

    我怀疑你使用了RandomForestClassifier.predict（）方法，根据预测的类，它会产生0或1 .

    要获得概率，即为特定类投票的树的分数，您必须使用RandomForestClassifier.predict_proba（）方法 .

    使用这些概率作为曲线计算的输入应该可以解决问题 .

    编辑：scikit-learn的曲线创建方法首先根据预测分数对预测进行排序，然后根据它们的实际/观察值进行排序，因此曲线具有这些“弯曲” .

    回复于
  • 1

    在 precision_recall_curve 内， y_pred 必须是目标类 AND NOT 的实际预测类的 probabilities .

    由于您使用的是 RandomForestClassifier ，因此请使用predict_proba(X)来获取概率 .

    rf = RandomForestClassifier()
probas_pred = rf.predict_proba(X_test)

precision, recall, _ = precision_recall_curve(y_true, probas_pred)
plt.step(recall, precision, color='b', alpha=0.2,where='post')
plt.fill_between(recall, precision, step='post', alpha=0.2, color='b')
    回复于

相关问题