您好,登錄后才能下訂單哦!
這篇文章主要介紹python機(jī)器學(xué)習(xí)算法與數(shù)據(jù)降維的示例分析,文中介紹的非常詳細(xì),具有一定的參考價值,感興趣的小伙伴們一定要看完!
機(jī)器學(xué)習(xí)中的維度就是特征的數(shù)量,降維即減少特征數(shù)量。降維方式有:特征選擇、主成分分析。
當(dāng)出現(xiàn)以下情況時,可選擇該方式降維:
①冗余:部分特征的相關(guān)度高,容易消耗計算性能
②噪聲:部分特征對預(yù)測結(jié)果有影響
特征選擇主要方法:過濾式(VarianceThreshold)、嵌入式(正則化、決策樹)
過濾式:
sklearn特征選擇API
sklearn.feature_selection.VarianceThreshold
注意:沒有最好的方差選擇,需要根據(jù)實際效果選擇方差。
API:sklearn.decomposition
主成分分析會盡可能降低原數(shù)據(jù)的維數(shù),損失少量信息。當(dāng)特征數(shù)量達(dá)到上百的時候,就需要考慮主成分分析??梢韵鳒p回歸分析或者聚類分析中特征的數(shù)量。
PCA語法:
里面的n_components通常填0-1的小數(shù),代表保留百分之多少的數(shù)據(jù),比如0.95意思是保留95%的數(shù)據(jù)。通常在0.9-0.95之間
例如:研究用戶和購買物品類別的關(guān)系,數(shù)據(jù)有不同的表格存儲,均為csv文件,但所需的兩者“用戶”和“購買物品類別”,存在于不同的表中。則可以按照以下流程進(jìn)行:
1.觀察各個表格的鍵,通過相同的鍵對表格進(jìn)行合并,使用pandas.merge(表1,表2,鍵1,鍵2)方法,其中鍵1和鍵2相同。經(jīng)過多次合并,最終將兩個目標(biāo)合并到一張表中。
2.通過交叉表pd.crosstab(合并后的表['用戶'], 合并后的表['物品類別']),建立一個以用戶為行,以物品類別為列的數(shù)據(jù)表。
3.對表格進(jìn)行數(shù)據(jù)的降維,可以使用PCA(n_components=0.9),保留90%的有效信息,輸出降維后的數(shù)據(jù)。即可有效減少維度,并確保留存90%的有效信息。
數(shù)據(jù)類型:
離散型:區(qū)間內(nèi)不可分,通常是在分類型問題中。
連續(xù)型:區(qū)間內(nèi)可分,通常是在預(yù)測型問題中。
算法分類:
算法總體分為兩類,監(jiān)督學(xué)習(xí)和無監(jiān)督學(xué)習(xí)。
①監(jiān)督學(xué)習(xí)包含特征值+目標(biāo)值,算法又分為兩小類,分類算法和回歸算法。
分類算法:k-近鄰算法、貝葉斯分類、決策樹與隨機(jī)森林、邏輯回歸、神經(jīng)網(wǎng)絡(luò)
回歸算法:線性回歸、嶺回歸
②無監(jiān)督學(xué)習(xí)只有特征值,通常是聚類算法:k-means
機(jī)器學(xué)習(xí)開發(fā)首先需要有數(shù)據(jù),數(shù)據(jù)來源可能有以下幾種:公司本身有數(shù)據(jù)、合作過來的數(shù)據(jù)、購買的數(shù)據(jù)。
具體開發(fā)流程如下:
①明確實際問題做什么:根據(jù)目標(biāo)值數(shù)據(jù)類型,建立模型,劃分應(yīng)用種類??纯词欠诸悊栴}還是預(yù)測問題。
②數(shù)據(jù)的基本處理:使用pandas處理數(shù)據(jù),缺失值,合并表等等。
③特征工程:對數(shù)據(jù)特征進(jìn)行處理(重要)。
④找到合適的算法去進(jìn)行預(yù)測。
⑤模型的評估,判定效果→上線使用,以API形式提供;若模型評估沒有合格:換算法、參數(shù),特征工程
sklearn數(shù)據(jù)集的使用:
通常在使用前會對數(shù)據(jù)集進(jìn)行劃分,從數(shù)據(jù)中拿出約75%作為訓(xùn)練集、25%作為測試集。也可以0.8/0.2等。通常0.75/0.25是使用最多的。
sklearn數(shù)據(jù)集劃分API:sklearn.model_selection.train_set_split
sklearn數(shù)據(jù)集API:
獲取數(shù)據(jù)集返回的類型:
數(shù)據(jù)集進(jìn)行分割:
用于分類的大數(shù)據(jù)集:
sklearn回歸數(shù)據(jù)集:
在數(shù)據(jù)處理中用到的fit_tansform方法中,其實可以拆分為fit方法和transform方法。
fit_transform() = fit() + transform()
若直接使用fit_transform(),則是對輸入的數(shù)據(jù)進(jìn)行求平均值、標(biāo)準(zhǔn)差,并使用它們進(jìn)行數(shù)據(jù)處理最終輸出結(jié)果。
如果拆開的話:
fit()
:輸入數(shù)據(jù),計算平均值,標(biāo)準(zhǔn)差等,不進(jìn)行后續(xù)工作。
transform()
:使用fit計算好的內(nèi)容進(jìn)行轉(zhuǎn)換。
也就是說可以通過fit()方法,生成1個數(shù)據(jù)對應(yīng)的標(biāo)準(zhǔn),使用這個標(biāo)準(zhǔn),對其他數(shù)據(jù),通過transform方法進(jìn)行轉(zhuǎn)換。
估計器就是已經(jīng)實現(xiàn)了的算法的API,可以直接調(diào)用,輸入相關(guān)數(shù)據(jù),對結(jié)果進(jìn)行預(yù)測等。
估計器工作流程:
1.調(diào)用fit(x_train, y_train),輸入訓(xùn)練集
2.輸入測試集的數(shù)據(jù)(x_test, y_test),調(diào)用不同接口可得不同結(jié)果
API①:y_predict = predict(x_test),該接口可獲得算法對y的預(yù)測值。
API②:score(x_test, y_test) ,該接口可獲得預(yù)測的準(zhǔn)確率。
以上是“python機(jī)器學(xué)習(xí)算法與數(shù)據(jù)降維的示例分析”這篇文章的所有內(nèi)容,感謝各位的閱讀!希望分享的內(nèi)容對大家有幫助,更多相關(guān)知識,歡迎關(guān)注億速云行業(yè)資訊頻道!
免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報,并提供相關(guān)證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權(quán)內(nèi)容。