python如何實(shí)現(xiàn)信息熵的計(jì)算代碼

小編給大家分享一下python如何實(shí)現(xiàn)信息熵的計(jì)算代碼，相信大部分人都還不怎么了解，因此分享這篇文章給大家參考一下，希望大家閱讀完這篇文章后大有收獲，下面讓我們一起去了解一下吧！

Python的優(yōu)點(diǎn)有哪些

1、簡(jiǎn)單易用，與C/C++、Java、C# 等傳統(tǒng)語(yǔ)言相比，Python對(duì)代碼格式的要求沒(méi)有那么嚴(yán)格；2、Python屬于開(kāi)源的，所有人都可以看到源代碼，并且可以被移植在許多平臺(tái)上使用；3、Python面向?qū)ο?，能夠支持面向過(guò)程編程,也支持面向?qū)ο缶幊蹋?、Python是一種解釋性語(yǔ)言，Python寫的程序不需要編譯成二進(jìn)制代碼，可以直接從源代碼運(yùn)行程序；5、Python功能強(qiáng)大，擁有的模塊眾多，基本能夠?qū)崿F(xiàn)所有的常見(jiàn)功能。

1、什么是信息熵？

1948年香農(nóng)提出了信息熵（Entropy）的概念。

信息理論：

1、從信息的完整性上進(jìn)行的描述:

當(dāng)系統(tǒng)的有序狀態(tài)一致時(shí)，數(shù)據(jù)越集中的地方熵值越小，數(shù)據(jù)越分散的地方熵值越大。

2、從信息的有序性上進(jìn)行的描述:

當(dāng)數(shù)據(jù)量一致時(shí)，系統(tǒng)越有序，熵值越低；系統(tǒng)越混亂或者分散，熵值越高。

“信息熵” (information entropy)是度量樣本集合純度最常用的一種指標(biāo)。

二、python實(shí)現(xiàn)信息熵的計(jì)算代碼

1、導(dǎo)入庫(kù)

import numpy as np
import pandas as pd

2、 準(zhǔn)備數(shù)據(jù)

data = pd.DataFrame(
    {'學(xué)歷': ['?？?#39;, '?？?#39;, '專科', '?？?#39;, '?？?#39;, '本科', '本科', '本科', '本科', '本科',
     '研究生', '研究生', '研究生', '研究生', '研究生'],
     '婚否': ['否', '否', '是', '是', '否', '否', '否', '是', '否', '否', '否', '否', '是', '是', '否'],
     '是否有車': ['否', '否', '否', '是', '否', '否', '否', '是', '是', '是', '是', '是', '否', '否', 
     '否'],
     '收入水平': ['中', '高', '高', '中', '中', '中', '高', '高', '很高', '很高', '很高', '高', '高', 
     '很高', '中'],
     '類別': ['否', '否', '是', '是', '否', '否', '否', '是', '是', '是', '是', '是', '是', '是', '否']})

3、定義信息熵函數(shù)

# 定義計(jì)算信息熵的函數(shù)：計(jì)算Infor(D)
def infor(data):
    a = pd.value_counts(data) / len(data)
    return sum(np.log2(a) * a * (-1))

4、數(shù)據(jù)測(cè)試

# print(infor(data["學(xué)歷"]))   #測(cè)試結(jié)果為: 1.584962500721156

以上是“python如何實(shí)現(xiàn)信息熵的計(jì)算代碼”這篇文章的所有內(nèi)容，感謝各位的閱讀！相信大家都有了一定的了解，希望分享的內(nèi)容對(duì)大家有所幫助，如果還想學(xué)習(xí)更多知識(shí)，歡迎關(guān)注億速云行業(yè)資訊頻道！