我喜欢使用partial_fit方法来训练分类器 . 我选择了适合内存的数据集样本(100,000行)来测试拟合与partial_fit:
from sklearn.linear_model import SGDClassifier
def batches(l, n):
for i in xrange(0, len(l), n):
yield l[i:i+n]
clf1 = SGDClassifier(shuffle=True, loss='log')
clf1.fit(X, Y)
clf2 = SGDClassifier(shuffle=True, loss='log')
n_iter = 60
for n in range(n_iter):
for batch in batches(range(len(X)), 10000):
clf2.partial_fit(X[batch[0]:batch[-1]+1], Y[batch[0]:batch[-1]+1], classes=numpy.unique(Y))
然后我用相同的测试集测试两个分类器 . 在第一种情况下,我得到100%的准确度 . 据我了解,SGD默认在训练数据上传递5次(n_iter = 5) .
在第二种情况下,我必须通过60次数据才能达到相同的准确度 .
为什么会出现这种差异(5对60)?或者我做错了什么?
1 回答
我终于找到了答案 . 你需要 shuffle the training data between each iteration ,因为在实例化模型时设置shuffle = True在使用partial_fit时不会改变数据(它只适用于fit) . 注意:在sklearn.linear_model.SGDClassifier page上查找此信息会很有帮助 .
修订后的守则内容如下: