小編給大家分享一下python如何實(shí)現(xiàn)信息熵的計(jì)算代碼,相信大部分人都還不怎么了解,因此分享這篇文章給大家參考一下,希望大家閱讀完這篇文章后大有收獲,下面讓我們一起去了解一下吧!
創(chuàng)新互聯(lián)公司是一家專(zhuān)業(yè)提供丹陽(yáng)企業(yè)網(wǎng)站建設(shè),專(zhuān)注與網(wǎng)站設(shè)計(jì)制作、做網(wǎng)站、H5響應(yīng)式網(wǎng)站、小程序制作等業(yè)務(wù)。10年已為丹陽(yáng)眾多企業(yè)、政府機(jī)構(gòu)等服務(wù)。創(chuàng)新互聯(lián)專(zhuān)業(yè)網(wǎng)絡(luò)公司優(yōu)惠進(jìn)行中。
1、簡(jiǎn)單易用,與C/C++、Java、C# 等傳統(tǒng)語(yǔ)言相比,Python對(duì)代碼格式的要求沒(méi)有那么嚴(yán)格;2、Python屬于開(kāi)源的,所有人都可以看到源代碼,并且可以被移植在許多平臺(tái)上使用;3、Python面向?qū)ο?,能夠支持面向過(guò)程編程,也支持面向?qū)ο缶幊蹋?、Python是一種解釋性語(yǔ)言,Python寫(xiě)的程序不需要編譯成二進(jìn)制代碼,可以直接從源代碼運(yùn)行程序;5、Python功能強(qiáng)大,擁有的模塊眾多,基本能夠?qū)崿F(xiàn)所有的常見(jiàn)功能。
1、什么是信息熵?
1948年香農(nóng)提出了信息熵(Entropy)的概念。
信息理論:
1、從信息的完整性上進(jìn)行的描述:
當(dāng)系統(tǒng)的有序狀態(tài)一致時(shí),數(shù)據(jù)越集中的地方熵值越小,數(shù)據(jù)越分散的地方熵值越大。
2、從信息的有序性上進(jìn)行的描述:
當(dāng)數(shù)據(jù)量一致時(shí),系統(tǒng)越有序,熵值越低;系統(tǒng)越混亂或者分散,熵值越高。
“信息熵” (information entropy)是度量樣本集合純度最常用的一種指標(biāo)。
二、python實(shí)現(xiàn)信息熵的計(jì)算代碼
1、導(dǎo)入庫(kù)
import numpy as np import pandas as pd
2、 準(zhǔn)備數(shù)據(jù)
data = pd.DataFrame( {'學(xué)歷': ['專(zhuān)科', '專(zhuān)科', '專(zhuān)科', '專(zhuān)科', '專(zhuān)科', '本科', '本科', '本科', '本科', '本科', '研究生', '研究生', '研究生', '研究生', '研究生'], '婚否': ['否', '否', '是', '是', '否', '否', '否', '是', '否', '否', '否', '否', '是', '是', '否'], '是否有車(chē)': ['否', '否', '否', '是', '否', '否', '否', '是', '是', '是', '是', '是', '否', '否', '否'], '收入水平': ['中', '高', '高', '中', '中', '中', '高', '高', '很高', '很高', '很高', '高', '高', '很高', '中'], '類(lèi)別': ['否', '否', '是', '是', '否', '否', '否', '是', '是', '是', '是', '是', '是', '是', '否']})
3、定義信息熵函數(shù)
# 定義計(jì)算信息熵的函數(shù):計(jì)算Infor(D) def infor(data): a = pd.value_counts(data) / len(data) return sum(np.log2(a) * a * (-1))
4、數(shù)據(jù)測(cè)試
# print(infor(data["學(xué)歷"])) #測(cè)試結(jié)果為: 1.584962500721156
以上是“python如何實(shí)現(xiàn)信息熵的計(jì)算代碼”這篇文章的所有內(nèi)容,感謝各位的閱讀!相信大家都有了一定的了解,希望分享的內(nèi)容對(duì)大家有所幫助,如果還想學(xué)習(xí)更多知識(shí),歡迎關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道!