matlab怎么優(yōu)化支持向量機(jī)的分類

通過交叉驗(yàn)證方法利用訓(xùn)練集找到分類的最佳參數(shù)，不但能夠高淮確率的預(yù)測(cè)訓(xùn)練集而且要合理的預(yù)測(cè)測(cè)試集，使得測(cè)試集的分類準(zhǔn)確率也維持在一個(gè)較高水平，即使得得到的SVM分類器的學(xué)習(xí)能力和推廣能力保持一個(gè)平衡.避免過學(xué)習(xí)和欠學(xué)習(xí)狀況發(fā)生。

交叉驗(yàn)證方法就是讓c和g在一定的范圍內(nèi)取值，對(duì)于取定得c和g把訓(xùn)練集作為原始數(shù)裾集利用K - CV方法得到在此組c和g下訓(xùn)練集驗(yàn)證分類準(zhǔn)確率，最終取使得訓(xùn)練集驗(yàn)證分類準(zhǔn)確率最高的那組c和g做為最佳的參數(shù)，但有一個(gè)問題就是可能會(huì)有多組的c和g對(duì)應(yīng)于最高的驗(yàn)證分類準(zhǔn)確率，這種情況怎么處理？這里采用的手段是選取能夠適到最高驗(yàn)證分類準(zhǔn)確率巾參數(shù)r最小的那組c和g做為最佳的參數(shù)，如果對(duì)應(yīng)最小的c有多組g，就選取搜索到的第一組c和g做為最佳的參數(shù)。這樣做的理由是：過高的c會(huì)導(dǎo)致過學(xué)習(xí)狀態(tài)發(fā)生，即訓(xùn)練集分類準(zhǔn)確率很高而測(cè)試集分類準(zhǔn)確率很低（分類器的泛化能力降低），所以在能夠達(dá)到最高驗(yàn)證分類準(zhǔn)確率中的所有的成對(duì)的c和g中認(rèn)為較小的懲罰參數(shù)c是更佳的選擇對(duì)象。

%% 清空環(huán)境變量

clear

clc

%% 導(dǎo)入數(shù)據(jù)

load BreastTissue_data.mat

% 隨機(jī)產(chǎn)生訓(xùn)練集和測(cè)試集

n = randperm(size(matrix,1));

% 訓(xùn)練集——80個(gè)樣本

train_matrix = matrix(n(1:80),:);

train_label = label(n(1:80),:);

% 測(cè)試集——26個(gè)樣本

test_matrix = matrix(n(81:end),:);

test_label = label(n(81:end),:);

%% 數(shù)據(jù)歸一化

[Train_matrix,PS] = mapminmax(train_matrix');

Train_matrix = Train_matrix';

Test_matrix = mapminmax('apply',test_matrix',PS);

Test_matrix = Test_matrix';

%% SVM創(chuàng)建/訓(xùn)練(RBF核函數(shù))

% 尋找最佳c/g參數(shù)——交叉驗(yàn)證方法

[c,g] = meshgrid(-10:0.2:10,-10:0.2:10);

[m,n] = size(c);

cg = zeros(m,n);

eps = 10^(-4);

v = 5;

bestc = 1;

bestg = 0.1;

bestacc = 0;

for i = 1:m

    for j = 1:n

        cmd = ['-v ',num2str(v),' -t 2',' -c ',num2str(2^c(i,j)),' -g ',num2str(2^g(i,j))];

        cg(i,j) = svmtrain(train_label,Train_matrix,cmd);     

        if cg(i,j) > bestacc

            bestacc = cg(i,j);

            bestc = 2^c(i,j);

            bestg = 2^g(i,j);

        end        

        if abs( cg(i,j)-bestacc )<=eps && bestc > 2^c(i,j) 

            bestacc = cg(i,j);

            bestc = 2^c(i,j);

            bestg = 2^g(i,j);

        end               

    end

end

cmd = [' -t 2',' -c ',num2str(bestc),' -g ',num2str(bestg)];

% 創(chuàng)建/訓(xùn)練SVM模型

model = svmtrain(train_label,Train_matrix,cmd);

%% SVM仿真測(cè)試

[predict_label_1,accuracy_1] = svmpredict(train_label,Train_matrix,model);

[predict_label_2,accuracy_2] = svmpredict(test_label,Test_matrix,model);

result_1 = [train_label predict_label_1];

result_2 = [test_label predict_label_2];

%% 繪圖

figure

plot(1:length(test_label),test_label,'r-*')

hold on

plot(1:length(test_label),predict_label_2,'b:o')

grid on

legend('真實(shí)類別','預(yù)測(cè)類別')

xlabel('測(cè)試集樣本編號(hào)')

ylabel('測(cè)試集樣本類別')

string = {'測(cè)試集SVM預(yù)測(cè)結(jié)果對(duì)比(RBF核函數(shù))';

          ['accuracy = ' num2str(accuracy_2(1)) '%']};

title(string)