機(jī)器學(xué)習(xí)中生成模型和判別模型是什么

本篇內(nèi)容介紹了“機(jī)器學(xué)習(xí)中生成模型和判別模型是什么”的有關(guān)知識(shí)，在實(shí)際案例的操作過(guò)程中，不少人都會(huì)遇到這樣的困境，接下來(lái)就讓小編帶領(lǐng)大家學(xué)習(xí)一下如何處理這些情況吧！希望大家仔細(xì)閱讀，能夠?qū)W有所成！

兩個(gè)模型是啥

我們從幾句話進(jìn)入這兩個(gè)概念： 
1、機(jī)器學(xué)習(xí)分為有監(jiān)督的機(jī)器學(xué)習(xí)和無(wú)監(jiān)督的機(jī)器學(xué)習(xí)； 
2、有監(jiān)督的機(jī)器學(xué)習(xí)就是已知訓(xùn)練集數(shù)據(jù)的類別情況來(lái)訓(xùn)練分類器，無(wú)監(jiān)督的機(jī)器學(xué)習(xí)就是不知道訓(xùn)練集的類別情況來(lái)訓(xùn)練分類器； 
3、所以說(shuō)，有監(jiān)督的機(jī)器學(xué)習(xí)可以抽象為一個(gè)分類 task，而無(wú)監(jiān)督的基本完成的是聚類； 
4、有監(jiān)督的機(jī)器學(xué)習(xí)中，我們可以概述為通過(guò)很多有標(biāo)記的數(shù)據(jù)，訓(xùn)練出一個(gè)模型，然后利用這個(gè)，對(duì)輸入的X進(jìn)行預(yù)測(cè)輸出的Y。這個(gè)模型一般有兩種：

決策函數(shù)：Y=f(X) 
條件概率分布：P(Y|X)

5、根據(jù)通過(guò)學(xué)習(xí)數(shù)據(jù)來(lái)獲取這兩種模型的方法，我們可以分為判別方法和生成方法；

6、概念正式介紹

判別方法：由數(shù)據(jù)直接學(xué)習(xí)決策函數(shù)Y=f(X)或條件概率分布P(Y|X)作為預(yù)測(cè)模型，即判別模型。判別方法關(guān)心的是對(duì)于給定的輸入X，應(yīng)該預(yù)測(cè)什么樣的輸出Y。

數(shù)據(jù)直接學(xué)習(xí)決策函數(shù) Y=f(X) 或條件概率分布 P(Y|X) 得到的預(yù)測(cè)模型，就是判別模型；

生成方法：由數(shù)據(jù)學(xué)習(xí)聯(lián)合概率分布P(X,Y), 然后由P(Y|X)=P(X,Y)/P(X)求出概率分布P(Y|X)作為預(yù)測(cè)的模型。該方法表示了給定輸入X與產(chǎn)生輸出Y的生成關(guān)系

P(Y|X)作為的預(yù)測(cè)的模型就是生成模型；

兩個(gè)模型的范例

生成模型：樸素貝葉斯(Naive Bayes)、隱馬爾可夫（EM 算法） 
判別模型：k近鄰法、感知機(jī)、決策樹(shù)、邏輯回歸、線性回歸、最大熵模型、支持向量機(jī)(SVM)、提升方法、條件隨機(jī)場(chǎng)（CRF），神經(jīng)網(wǎng)絡(luò)

對(duì)比

1、生成模型可以還原出聯(lián)合概率分布（還原數(shù)據(jù)本身相似度），而判別方法不能； 
2、生成方法的學(xué)習(xí)收斂速度更快，當(dāng)樣本容量增加的時(shí)候，學(xué)到的模型可以更快的收斂于真實(shí)模型； 
3、當(dāng)存在隱變量時(shí)，仍可以利用生成方法學(xué)習(xí)，此時(shí)判別方法不能用； 
4、判別學(xué)習(xí)不能反映訓(xùn)練數(shù)據(jù)本身的特性，但它尋找不同類別之間的最優(yōu)分類面，反映的是異類數(shù)據(jù)之間的差異，直接面對(duì)預(yù)測(cè)，往往學(xué)習(xí)的準(zhǔn)確率更高，由于直接學(xué)習(xí)P(Y|X)或Y=f（X），從而可以簡(jiǎn)化學(xué)習(xí)； 
5、簡(jiǎn)單的說(shuō)，生成模型是從大量的數(shù)據(jù)中找規(guī)律，屬于統(tǒng)計(jì)學(xué)習(xí)；而判別模型只關(guān)心不同類型的數(shù)據(jù)的差別，利用差別來(lái)分類。

判別模型  是在你生父身高超過(guò)180的已知條件下，預(yù)測(cè)你身高會(huì)不會(huì)超過(guò)180。如果你生父比180高，那么你比180高的概率會(huì)增加。但是全世界人身高的概率分布暫時(shí)并沒(méi)有改變。（為了科學(xué)的嚴(yán)謹(jǐn)，這里爸爸已經(jīng)改成了生父而非父親）

生成模型  則是隨機(jī)賜予你一個(gè)成年后的最高身高。身高超過(guò)180的概率是多少，這個(gè)概率只能依照全世界所有成人的身高的頻率分布來(lái)決定。

“機(jī)器學(xué)習(xí)中生成模型和判別模型是什么”的內(nèi)容就介紹到這里了，感謝大家的閱讀。如果想了解更多行業(yè)相關(guān)的知識(shí)可以關(guān)注億速云網(wǎng)站，小編將為大家輸出更多高質(zhì)量的實(shí)用文章！