溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊(cè)×
其他方式登錄
點(diǎn)擊 登錄注冊(cè) 即表示同意《億速云用戶服務(wù)條款》

Python數(shù)據(jù)標(biāo)準(zhǔn)化的方法

發(fā)布時(shí)間:2021-08-16 09:28:23 來源:億速云 閱讀:481 作者:chen 欄目:開發(fā)技術(shù)

這篇文章主要講解了“Python數(shù)據(jù)標(biāo)準(zhǔn)化的方法”,文中的講解內(nèi)容簡(jiǎn)單清晰,易于學(xué)習(xí)與理解,下面請(qǐng)大家跟著小編的思路慢慢深入,一起來研究和學(xué)習(xí)“Python數(shù)據(jù)標(biāo)準(zhǔn)化的方法”吧!

說明

1、將原始數(shù)據(jù)轉(zhuǎn)換為均值為0,標(biāo)準(zhǔn)差在1范圍內(nèi)。

2、對(duì)標(biāo)準(zhǔn)化而言:如果出現(xiàn)異常點(diǎn),由于有一定數(shù)據(jù)量,少量異常點(diǎn)對(duì)平均值的影響不大,因此方差變化不大。

實(shí)例

def stand_demo():
    """
    標(biāo)準(zhǔn)化
    :return:
    """
# 1. 獲取數(shù)據(jù)
    data = pd.read_csv('dating.txt')
    data = data.iloc[:, :3]
    print('data:\n', data)
 
# 2.實(shí)例化一個(gè)轉(zhuǎn)換器類
    transfer = StandardScaler()

# 3.調(diào)用fit_transform()
    data_new = transfer.fit_transform(data)
    print('data_new:\n', data_new)
    return None

知識(shí)點(diǎn)擴(kuò)充:

幾種標(biāo)準(zhǔn)化方法:

歸一化Max-Min

min-max標(biāo)準(zhǔn)化方法是對(duì)原始數(shù)據(jù)進(jìn)行線性變換。設(shè)minA和maxA分別為屬性A的最小值和最大值,將A的一個(gè)原始值x通過min-max標(biāo)準(zhǔn)化映射成在區(qū)間[0,1]中的值x',其公式為:

新數(shù)據(jù)=(原數(shù)據(jù)-最小值)/(最大值-最小值)

這種方法能使數(shù)據(jù)歸一化到一個(gè)區(qū)域內(nèi),同時(shí)不改變?cè)瓉淼臄?shù)據(jù)結(jié)構(gòu)。

實(shí)現(xiàn)中心化Z-Score

這種方法基于原始數(shù)據(jù)的均值(mean)和標(biāo)準(zhǔn)差(standard deviation)進(jìn)行數(shù)據(jù)的標(biāo)準(zhǔn)化。將A的原始值x使用z-score標(biāo)準(zhǔn)化到x'。

z-score標(biāo)準(zhǔn)化方法適用于屬性A的最大值和最小值未知的情況,或有超出取值范圍的離群數(shù)據(jù)的情況。

新數(shù)據(jù)=(原數(shù)據(jù)-均值)/標(biāo)準(zhǔn)差

這種方法適合大多數(shù)類型數(shù)據(jù),也是很多工具的默認(rèn)標(biāo)準(zhǔn)化方法。標(biāo)準(zhǔn)化之后的數(shù)據(jù)是以0為均值,方差為以的正太分布。但是Z-Score方法是一種中心化方法,會(huì)改變?cè)袛?shù)據(jù)的分布結(jié)構(gòu),不適合用于對(duì)稀疏數(shù)據(jù)做處理。

很多時(shí)候數(shù)據(jù)集會(huì)存在稀疏特征,表現(xiàn)為標(biāo)準(zhǔn)差小,很多元素值為0,最常見的稀疏數(shù)據(jù)集是用來做協(xié)同過濾的數(shù)據(jù)集,絕大部分?jǐn)?shù)據(jù)都是0。對(duì)稀疏數(shù)據(jù)做標(biāo)準(zhǔn)化,不能采用中心化的方式,否則會(huì)破壞稀疏數(shù)據(jù)的結(jié)構(gòu)。

用于稀疏數(shù)據(jù)的MaxAbs

最大值絕對(duì)值標(biāo)準(zhǔn)化(MaxAbs)即根據(jù)最大值的絕對(duì)值進(jìn)行標(biāo)準(zhǔn)化,假設(shè)原轉(zhuǎn)換的數(shù)據(jù)為x,新數(shù)據(jù)為x',那么x'=x/|max|,其中max為x鎖在列的最大值。

該方法的數(shù)據(jù)區(qū)間為[-1, 1],也不破壞原數(shù)據(jù)結(jié)構(gòu)的特點(diǎn),因此也可以用于稀疏數(shù)據(jù),一些稀疏矩陣。

針對(duì)離群點(diǎn)的RobustScaler

有些時(shí)候,數(shù)據(jù)集中存在離群點(diǎn),用Z-Score進(jìn)行標(biāo)準(zhǔn)化,但是結(jié)果不理想,因?yàn)殡x群點(diǎn)在標(biāo)準(zhǔn)化后喪失了利群特性。

RobustScaler針對(duì)離群點(diǎn)做標(biāo)準(zhǔn)化處理,該方法對(duì)數(shù)據(jù)中心化的數(shù)據(jù)的縮放健壯性有更強(qiáng)的參數(shù)控制能力。

感謝各位的閱讀,以上就是“Python數(shù)據(jù)標(biāo)準(zhǔn)化的方法”的內(nèi)容了,經(jīng)過本文的學(xué)習(xí)后,相信大家對(duì)Python數(shù)據(jù)標(biāo)準(zhǔn)化的方法這一問題有了更深刻的體會(huì),具體使用情況還需要大家實(shí)踐驗(yàn)證。這里是億速云,小編將為大家推送更多相關(guān)知識(shí)點(diǎn)的文章,歡迎關(guān)注!

向AI問一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如果涉及侵權(quán)請(qǐng)聯(lián)系站長(zhǎng)郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI