sklearn中SVC實(shí)現(xiàn)與類參數(shù)的示例分析

這篇文章將為大家詳細(xì)講解有關(guān)sklearn中SVC實(shí)現(xiàn)與類參數(shù)的示例分析，小編覺得挺實(shí)用的，因此分享給大家做個(gè)參考，希望大家閱讀完這篇文章后可以有所收獲。

sklearn-SVC實(shí)現(xiàn)與類參數(shù)

對(duì)應(yīng)的API：http://scikit-learn.sourceforge.net/stable/modules/generated/sklearn.svm.SVC.html

它是基于libsvm實(shí)現(xiàn)的。隨著樣本數(shù)量的增加，擬合時(shí)間的復(fù)雜度要高于二次，這就使得當(dāng)樣板數(shù)量超過一萬個(gè)時(shí)，很難擴(kuò)展到數(shù)據(jù)集中。

在多類處理時(shí)，是按照1對(duì)1的方案進(jìn)行處理的。

函數(shù)的的定義為：

 def __init__ (self, C=1.0, kernel='rbf', degree=3, gamma='auto',coef0=0.0, 
verbose=False, max_iter=-1, decision_function_shape='ovr', random_state=None):

參數(shù)的含義：

- C：float參數(shù) 默認(rèn)值為1.0。錯(cuò)誤項(xiàng)的懲罰系數(shù)。C越大，即對(duì)分錯(cuò)樣本的懲罰程度越大，因此在訓(xùn)練樣本中準(zhǔn)確率越高，但是泛化能力降低，也就是對(duì)測(cè)試數(shù)據(jù)的分類準(zhǔn)確率降低。相反，減小C的話，容許訓(xùn)練樣本中有一些誤分類錯(cuò)誤樣本，泛化能力強(qiáng)。對(duì)于訓(xùn)練樣本帶有噪聲的情況，一般采用后者，把訓(xùn)練樣本集中錯(cuò)誤分類的樣本作為噪聲。

- kernel: str參數(shù) 默認(rèn)為‘rbf‘，算法中采用的核函數(shù)類型，可選參數(shù)有：

linear：線性核函數(shù)

poly：多項(xiàng)式核函數(shù)

rbf：徑像核函數(shù)/高斯核

sigmod：sigmod核函數(shù)

precomputed：核矩陣

- degree :int型參數(shù) (default=3)，這個(gè)參數(shù)只對(duì)多項(xiàng)式核函數(shù)（poly）有用，是指多項(xiàng)式核函數(shù)的階數(shù)n，如果給的核函數(shù)參數(shù)是其他核函數(shù)，則會(huì)自動(dòng)忽略該參數(shù)。

- gamma：float參數(shù)，默認(rèn)為auto核函數(shù)系數(shù)，只對(duì)'rbf'、 ‘poly' 、 ‘sigmoid'有效。

如果gamma為auto，代表其值為樣本特征數(shù)的倒數(shù)，即1/n_features。

- coef0：float參數(shù) 默認(rèn)為0.0

核函數(shù)中的獨(dú)立項(xiàng)，只有對(duì)‘poly'和‘sigmod'核函數(shù)有用，是指其中的參數(shù)c

- probability：bool參數(shù) 默認(rèn)為False

是否啟用概率估計(jì)。 這必須在調(diào)用fit()之前啟用，并且會(huì)fit()方法速度變慢。

- shrinking：bool參數(shù) 默認(rèn)為True

是否采用啟發(fā)式收縮方式。

- tol: float參數(shù) 默認(rèn)為1e^-3

svm停止訓(xùn)練的誤差精度。

- cache_size：float參數(shù) 默認(rèn)為200

指定訓(xùn)練所需要的內(nèi)存，以MB為單位，默認(rèn)為200MB。 - class_weight：字典類型或者‘balance'字符串。默認(rèn)為None

給每個(gè)類別分別設(shè)置不同的懲罰參數(shù)C，則該類別的懲罰系數(shù)為class_weight[i]*C，如果沒有給，則會(huì)給所有類別都給C=1，即前面參數(shù)指出的參數(shù)C。

如果給定參數(shù)‘balance'，則使用y的值自動(dòng)調(diào)整與輸入數(shù)據(jù)中的類頻率成反比的權(quán)重。

- verbose ：bool參數(shù) 默認(rèn)為False

是否啟用詳細(xì)輸出。 此設(shè)置利用libsvm中的每個(gè)進(jìn)程運(yùn)行時(shí)設(shè)置，如果啟用，可能無法在多線程上下文中正常工作。一般情況都設(shè)為False，不用管它。

- max_iter ：int參數(shù) 默認(rèn)為-1

最大迭代次數(shù)，如果為-1，表示不限制

- random_state：int型參數(shù) 默認(rèn)為None

偽隨機(jī)數(shù)發(fā)生器的種子,在混洗數(shù)據(jù)時(shí)用于概率估計(jì)。

SVC的方法

1、fit()方法：用于訓(xùn)練SVM，具體參數(shù)已經(jīng)在定義SVC對(duì)象的時(shí)候給出了，這時(shí)候只需要給出數(shù)據(jù)集X和X對(duì)應(yīng)的標(biāo)簽y即可。

2、predict()方法：基于以上的訓(xùn)練，對(duì)預(yù)測(cè)樣本T進(jìn)行類別預(yù)測(cè)，因此只需要接收一個(gè)測(cè)試集T，該函數(shù)返回一個(gè)數(shù)組表示個(gè)測(cè)試樣本的類別。

3、predict_proba()：返回每個(gè)輸入類別的概率，這與predict方法不同，predict方法返回的輸入樣本屬于那個(gè)類別，但沒有概率。使用此方法時(shí)，需要在初始化時(shí)，將 probability參數(shù)設(shè)置為True。

例如：

import numpy as np
import matplotlib.pyplot as plt
from sklearn import svm
# we create 40 separable points
np.random.seed(0)
X = np.r_[np.random.randn(20, 2) - [2, 2], np.random.randn(20, 2) + [2, 2]]
Y = [0] * 20 + [1] * 20
# fit the model
clf = svm.SVC(kernel='linear',probability=True)
clf.fit(X, Y)
print(clf.predict_proba([[-0.1,0.7],[0.3,0.5]]))
#result
#[[ 0.41844015 0.58155985]
#[ 0.34810738 0.65189262]]

如果初始化時(shí)不適用probability參數(shù)：

clf = svm.SVC(kernel='linear')
clf.fit(X, Y)
print(clf.predict([[-0.1,0.7],[0.3,0.5]]))
# get the separating hyperplane
w = clf.coef_[0]
#輸出的結(jié)果為：[1,1]

屬性有哪些：

svc.n_support_：各類各有多少個(gè)支持向量

svc.support_：各類的支持向量在訓(xùn)練樣本中的索引

svc.support_vectors_：各類所有的支持向量

關(guān)于“sklearn中SVC實(shí)現(xiàn)與類參數(shù)的示例分析”這篇文章就分享到這里了，希望以上內(nèi)容可以對(duì)大家有一定的幫助，使各位可以學(xué)到更多知識(shí)，如果覺得文章不錯(cuò)，請(qǐng)把它分享出去讓更多的人看到。