我有一个训练数据集(50000 X 16)和测试数据集(5000 X 16)[这两个数据集中的第16列是决策标签或响应。测试数据集中的决策标签用于检验训练的分类器的分类精度]。我使用我的训练数据来训练和验证我的交叉验证的knn分类器。我使用以下代码创建了一个交叉验证的knn分类器模型:
X = Dataset2(1:50000,:); % Use some data for fitting
Y = Training_Label(1:50000,:); % Response of training data
%Create a KNN Classifier model
rng(10); % For reproducibility
Mdl = fitcknn(X,Y,'Distance', 'Cosine', 'Exponent', '', 'NumNeighbors', 10,'DistanceWeight', 'Equal', 'StandardizeData', 1);
%Construct a cross-validated classifier from the model.
CVMdl = crossval(Mdl,'KFold', 10);
%Examine the cross-validation loss, which is the average loss of each cross-validation model when predicting on data that is not used for training.
kloss = kfoldLoss(CVMdl, 'LossFun', 'ClassifError')
% Compute validation accuracy
validationAccuracy = 1 - kloss;
现在我想用这个交叉验证的knn分类器对我的测试数据进行分类,但我真的不知道怎么做。我已经浏览了matlab中可用的示例,但找不到任何合适的函数或示例。
我知道如果我的分类器没有交叉验证,我可以使用“预测”函数来预测我的测试数据的类标签。代码如下:
X = Dataset2(1:50000,:); % Use some data for fitting
Y = Training_Label(1:50000,:); % Response of training data
%Create a KNN Classifier model
rng(10); % For reproducibility
Mdl = fitcknn(X,Y,'Distance', 'Cosine', 'Exponent', '', 'NumNeighbors', 10,'DistanceWeight', 'Equal', 'StandardizeData', 1);
%Classification using Test Data
Classifier_Output_Labels = predict(Mdl,TestDataset2(1:5000,:));
但对于交叉验证的训练knn分类器,我找不到任何类似的函数(如“预测”)。我在Matlab文档中找到了“kfoldPredict”函数,但它说该函数用于评估训练后的模型。http://www.mathworks.com/help/stats/classificationpartitionedmodel.kfoldpredict.html但是我没有通过这个函数找到任何新数据的输入。
那么,有人能告诉我如何使用交叉验证的knn分类器模型来预测新数据的标签吗?任何帮助都是非常感激和迫切需要的。:(:(
假设您在学习模型时正在进行10倍交叉验证。然后,您可以使用kfoldLoss函数也获得每个折叠的CV损失,然后选择经过训练的模型,通过以下方式为您提供最少的CV损失:
modelLosses = kfoldLoss(Mdl,'mode','individual');
如果您在学习过程中进行了10次交叉验证,上述代码将为您提供长度为10的向量(10个CV错误值)。假设CV误差最小的训练模型是第k个模型,那么您将使用:
testSetPredictions = predict(Mdl.Trained{k}, testSetFeatures);
你似乎把这里的事情搞混了。交叉验证是模型选择和评估的工具。这不是培训程序本身。因此,您不能“使用”交叉验证对象。您可以使用经过训练的对象进行预测。交叉验证是估计给定模型泛化能力的一种形式,它与实际训练无关,评估特定属性只是一个小的统计实验。