首页 文章

R插入符号/ rfe中的列车交叉验证如何工作

提问于
浏览 次
9

我对 caret 库中的 rfe 函数有疑问 . 在插入符号主页link上，他们给出了以下RFE算法：algorithm

对于这个例子，我使用具有3倍交叉验证的 rfe 函数和具有线性SVM和5倍交叉验证的列车功能 .

library(kernlab)
library(caret)
data(iris)

# parameters for the tune function, used for fitting the svm
trControl <- trainControl(method = "cv", number = 5)

# parameters for the RFE function
rfeControl <- rfeControl(functions = caretFuncs, method = "cv",
                     number= 4, verbose = FALSE )

rf1 <- rfe(as.matrix(iris[,1:4]), as.factor(iris[,5]) ,sizes = c( 2,3) ,  
           rfeControl = rfeControl, trControl = trControl, method = "svmLinear")

  • 从上面的算法我假设算法可以使用2个嵌套的交叉验证：

  • rfe 会将数据（150个样本）分成3倍

  • train 函数将在训练集（100个样本）上运行，具有5倍交叉验证以调整模型参数 - 随后的RFE .

令我困惑的是，当我看一下 rfe 函数的结果时：

> lapply(rf1$control$index, length)
$Fold1
[1] 100
$Fold2
[1] 101
$Fold3
[1] 99

> lapply(rf1$fit$control$index, length)
$Fold1
[1] 120
$Fold2
[1] 120
$Fold3
[1] 120
$Fold4
[1] 120
$Fold5
[1] 120

从那看起来，5倍cv的训练集的大小是120个样本，当我期望大小为80 .

如果有人能够澄清rfe和火车如何一起工作，那将会很棒 .

干杯

> sessionInfo()
R version 2.15.1 (2012-06-22)
Platform: i386-apple-darwin9.8.0/i386 (32-bit)

locale:
[1] C

attached base packages:
[1] stats     graphics  grDevices utils     datasets  methods   base     

other attached packages:
 [1] pROC_1.5.4      e1071_1.6-1     class_7.3-5     caret_5.15-048 
 [5] foreach_1.4.0   cluster_1.14.3  plyr_1.7.1      reshape2_1.2.1 
 [9] lattice_0.20-10 kernlab_0.9-15 

loaded via a namespace (and not attached):
 [1] codetools_0.2-8 compiler_2.15.1 grid_2.15.1     iterators_1.0.6
 [5] stringr_0.6.1   tools_2.15.1
r cross-validation r-caret rfe

1 回答

  • 1

    这里的问题是 lapply(rf1$fit$control$index, length) 没有存储我们认为它的作用 .

    让我明白有必要查看代码 . 会发生什么有以下几点：

    当您调用 rfe 时，整个数据将传递给 nominalRfeWorkflow .

    在 nominalRfeWorkflow 中，根据 rfeControl 分割的列车和测试数据（在我们的示例中，根据3折CV规则3次）被传递到 rfeIter . 我们可以在 rf1$control$index 的结果中找到这些拆分 .

    在 rfeIter 中，~100个训练样本（我们的例子）用于查找最终变量（该函数的输出） . 据我了解，大约50个测试样本（我们的例子）用于计算不同变量集的性能，但它们仅作为外部性能存储，但不用于选择最终变量 . 为了选择这些，使用5倍交叉验证的性能估计 . 但是我们无法在 rfe 返回的最终结果中找到这些索引 . 如果我们确实需要它们，我们需要从 rfeIter 中的 fitObject$control$index 获取它们，将它们返回到 nominalRfeWorkflow ，然后返回到 rfe 并从那里返回 rfe 返回的 rfe -Class对象 .

    那么 lapply(rf1$fit$control$index, length) 中存储了什么？ - 当 rfe 找到最佳变量时，使用最佳变量和完整参考数据创建最终模型拟合（150） . rf1$fit 在 rfe 中创建如下：

    fit <- rfeControl$functions$fit(x[, bestVar, drop = FALSE], y, first = FALSE, last = TRUE, ...)

    此函数再次运行 train 函数，并使用完整的参考数据进行最终交叉验证，最终的特征集和 trControl 通过省略号（ ... ）给出 . 因为 trControl 应该做5倍CV，所以 lapply(rf1$fit$control$index, length) 返回120是正确的，因为我们必须计算150/5 * 4 = 120 .

    回复于

相关问题