如何在python中處理缺失值

如何在python中處理缺失值？很多新手對此不是很清楚，為了幫助大家解決這個難題，下面小編將為大家詳細(xì)講解，有這方面需求的人可以來學(xué)習(xí)下，希望你能有所收獲。

1.忽略元組

當(dāng)缺少類別標(biāo)簽時通常這樣做（假定挖掘任務(wù)涉及分類時），除非元組有多個屬性缺失值，否則該方法不是很有效。當(dāng)每個屬性缺少值的百分比變化很大時，它的性能特別差。

2.人工填寫缺失值

一般該方法很費時，并且當(dāng)數(shù)據(jù)集很大，缺少很多值時，該方法可能行不通。

3.使用一個全局常量填充缺失值

將缺失的屬性值用同一個常數(shù)(如“Unknown”或 負(fù)無窮)替換。如果缺失值都用“unknown”替換，則挖掘程序可能會認(rèn)為它們形成一個有趣的概念，因為它們都具有相同的值“unknown”。因此，雖然該方法很簡單，但是它十分不可靠。

4.使用與給定元組屬同一類的所有樣本的屬性均值

例如：將顧客按照credit_risk分類，則使用具有相同信用度的給定元組的顧客的平均收入替換income中的缺失值。

5.使用最可能的值填充缺失值

可以用回歸、使用貝葉斯形式化的基于推理的工具或決策樹歸納確定。例如，利用數(shù)據(jù)集中其他顧客的屬性，可以構(gòu)造一顆決策樹來預(yù)測income的缺失值。

注意：缺失值并不總是意味著數(shù)據(jù)的錯誤?。。。。。?！

二、缺失值處理的代碼實現(xiàn)

class:`Imputer`類提供了缺失數(shù)值處理的基本策略，比如使用缺失數(shù)值所在行或列的均值、中位數(shù)、眾數(shù)來替代缺失值。該類也兼容不同的缺失值編碼。

1、使用均值填充缺失值

import numpy as np

from sklearn.preprocessing import Imputer

imp = Imputer(missing_values='NaN', strategy='mean', axis=0)

import numpy as np

from sklearn.preprocessing import Imputer
 
###1.使用均值填充缺失值
imp = Imputer(missing_values='NaN', strategy='mean', axis=0)
imp.fit([[1, 2], [np.nan, 3], [7, 6]])


X = [[np.nan, 2], [6, np.nan], [7, 6]]
print(imp.transform(X)) 
[[4.     2.    ]
 [6.     3.66666667]
 [7.     6.    ]]

2、Imputer 類也支持稀疏矩陣:

import scipy.sparse as sp
 
X = sp.csc_matrix([[1, 2], [0, 3], [7, 6]])
 
imp = Imputer(missing_values=0, strategy='mean', axis=0)
 
imp.fit(X)
 
 
X_test = sp.csc_matrix([[0, 2], [6, 0], [7, 6]])
 
print(imp.transform(X_test))

#注意，在這里，缺失數(shù)據(jù)被編碼為0, 這種方式用在當(dāng)缺失數(shù)據(jù)比觀察數(shù)據(jù)更多的情況時是非常合適的。

Python主要用來做什么

Python主要應(yīng)用于：1、Web開發(fā)；2、數(shù)據(jù)科學(xué)研究；3、網(wǎng)絡(luò)爬蟲；4、嵌入式應(yīng)用開發(fā)；5、游戲開發(fā)；6、桌面應(yīng)用開發(fā)。

看完上述內(nèi)容是否對您有幫助呢？如果還想對相關(guān)知識有進一步的了解或閱讀更多相關(guān)文章，請關(guān)注億速云行業(yè)資訊頻道，感謝您對億速云的支持。