如何理解R語(yǔ)言高級(jí)算法中的支持向量機(jī)

如何理解R語(yǔ)言高級(jí)算法中的支持向量機(jī)，針對(duì)這個(gè)問(wèn)題，這篇文章詳細(xì)介紹了相對(duì)應(yīng)的分析和解答，希望可以幫助更多想解決這個(gè)問(wèn)題的小伙伴找到更簡(jiǎn)單易行的方法。

1.支持向量機(jī)原理解析
機(jī)器學(xué)習(xí)本質(zhì)上就是一種對(duì)所研究問(wèn)題真實(shí)模型的逼近,通常會(huì)假設(shè)一個(gè)近似模型,然后根據(jù)適當(dāng)?shù)脑韺⑦@個(gè)近似模型不斷逼近真實(shí)模型.結(jié)構(gòu)風(fēng)險(xiǎn)就是指近似模型與真實(shí)模型之間的差距.
我們可以用某些方法來(lái)逼近真實(shí)模型,最直觀的想法就是使用分類器在樣本數(shù)據(jù)上的分類結(jié)果與真實(shí)結(jié)果之間的差值來(lái)表示,這個(gè)差值統(tǒng)計(jì)上為經(jīng)驗(yàn)風(fēng)險(xiǎn)Remp(W).
在過(guò)去的機(jī)器學(xué)習(xí)方法中,通常將經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化作為努力目標(biāo),但是由于過(guò)度擬合,而使得模型無(wú)推廣能力.統(tǒng)計(jì)學(xué)因而引進(jìn)了泛化誤差界的概念.所謂泛化誤差界是指真實(shí)風(fēng)險(xiǎn)應(yīng)該由兩部分內(nèi)容刻畫:一是經(jīng)驗(yàn)風(fēng)險(xiǎn),代表了分類器在給定樣本上的誤差;二是置信風(fēng)險(xiǎn),代表了我們?cè)诙啻蟪潭壬峡梢孕湃畏诸惼髟谖粗獦颖旧戏诸惖慕Y(jié)果.統(tǒng)計(jì)學(xué)習(xí)的目標(biāo)就是從經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化變?yōu)榱藢で蠼?jīng)驗(yàn)風(fēng)險(xiǎn)與置信風(fēng)險(xiǎn)之和最小化,即結(jié)構(gòu)風(fēng)險(xiǎn)最小化(Structural Risk Minimization).支持向量機(jī)就是努力尋求最小化結(jié)構(gòu)風(fēng)險(xiǎn)的算法.
我們可以把支持向量機(jī)理解為高級(jí)的線性回歸或線性判別。

2.在R語(yǔ)言中的應(yīng)用
支持向量機(jī)算法我們主要用到了R語(yǔ)言e1071包里面的svm(formula,data,type,kernel,degree,gamma,coef,nu)函數(shù)
type取值有C-classification/nu-classification/one-classification/eps-regression/nu-regression.前三種是針對(duì)字符型結(jié)果變量的分類方式,其中第三種是邏輯判別,即輸出結(jié)果是是否屬于該類別,后兩種則是針對(duì)數(shù)量型結(jié)果變量的分類方式.
kernel有四個(gè)參數(shù),線性核函數(shù)linear/多項(xiàng)式核函數(shù)ploynomial/徑向基核函數(shù)(高斯函數(shù))radial basis/神經(jīng)網(wǎng)絡(luò)核函數(shù)sigmoid.經(jīng)研究發(fā)現(xiàn),識(shí)別率最高/性能最好的是高斯函數(shù),其次是多項(xiàng)式函數(shù),而最差的是神經(jīng)網(wǎng)絡(luò)函數(shù).高斯函數(shù)是局部函數(shù),學(xué)習(xí)能力強(qiáng),但泛化能力弱;多項(xiàng)式函數(shù)則是全局性函數(shù)。
3.以iris數(shù)據(jù)集為例進(jìn)行支持向量機(jī)判別分析
1)應(yīng)用模型并觀察結(jié)果
fit_svm=svm(Species~.,data=iris)
fit_svm[1:length(fit_svm)]







2)進(jìn)行預(yù)測(cè)和模型評(píng)測(cè)

關(guān)于如何理解R語(yǔ)言高級(jí)算法中的支持向量機(jī)問(wèn)題的解答就分享到這里了，希望以上內(nèi)容可以對(duì)大家有一定的幫助，如果你還有很多疑惑沒(méi)有解開(kāi)，可以關(guān)注億速云行業(yè)資訊頻道了解更多相關(guān)知識(shí)。