如何衡量數(shù)據(jù)點(diǎn)之間的相似或相異程度是聚類(lèi)算法的基礎(chǔ)問(wèn)題,會(huì)直接影響聚類(lèi)分析的效果,最直觀的方法是使用距離函數(shù)或者相似性函數(shù)。
創(chuàng)新互聯(lián)主營(yíng)??诰W(wǎng)站建設(shè)的網(wǎng)絡(luò)公司,主營(yíng)網(wǎng)站建設(shè)方案,app軟件開(kāi)發(fā),海口h5小程序開(kāi)發(fā)搭建,??诰W(wǎng)站營(yíng)銷(xiāo)推廣歡迎??诘鹊貐^(qū)企業(yè)咨詢(xún)常見(jiàn)的相似或相異程度計(jì)算方法。
很多距離計(jì)算方法都可以歸結(jié)為基于向量p范數(shù)的距離,即Minkowski distance。
dij=(sumsh=1|xihxjh|p)1/pdij=(sumh=1s|xihxjh|p)1/p
參數(shù)p = 2,Minkowski distance退化為Euclidean distance,使用Euclidean distance的聚類(lèi)算法大多只能發(fā)現(xiàn)低維空間中呈超球分布的數(shù)據(jù),并且對(duì)數(shù)據(jù)集中的噪聲比較敏感。
dij=(sumsh=1|xihxjh|2)1/2dij=(sumh=1s|xihxjh|2)1/2
參數(shù)p = 1,Minkowski distance演變?yōu)镃ity-block distance,City-block distance可以有效提高模糊聚類(lèi)算法對(duì)噪聲或者孤立點(diǎn)的魯棒性。
dij=sumsh=1|xihxjh|dij=sumh=1s|xihxjh|
參數(shù)p = 無(wú)窮,Minkowski distance演變?yōu)镾up distance。
dij=maxh|xihxjh|dij=maxh|xihxjh|
sij=xTixj||xi||||xj||sij=xiTxj||xi||||xj||
Mahalanobis distance為原特征空間中的數(shù)據(jù)在線性投影空間歐式距離,使用Mahalanobis distance能夠使得聚類(lèi)算法成功發(fā)現(xiàn)數(shù)據(jù)集里成超橢球型分布的類(lèi)簇,但是Mahalanobis distance會(huì)帶來(lái)較大的計(jì)算量。
dij=(xixj)TS1(xixj)dij=(xixj)TS1(xixj)
Alternative distance對(duì)數(shù)據(jù)集里的噪聲不敏感。
dij=1exp(β||xixj||2)dij=1exp(β||xixj||2)
dij=(sumsh=1wah|xihxjh|)1/2dij=(sumh=1swha|xihxjh|)1/2
代碼,
import numpy as np a = np.array([1,2,3,4]) b = np.array([4,3,2,1])print aprint b#Euclidean distancedistEu = np.sqrt(np.sum((a-b)**2))print "Euclidean distance = ",distEu#City-block distancedistCb = np.sum(np.abs(a-b))print "City-block distance = ",distCb#Sup distancedistSup = max(np.abs(a-b))print "Sup distance = ",distSup#Cosine similaritycosineSimi = np.dot(a,b) / (np.sqrt(np.sum(a**2)) * np.sqrt(np.sum(b**2)))print "Cosine similarity = ",cosineSimi#Alternative distancebeta = 0.5distAlter = 1 - np.exp(-beta * np.sqrt(np.sum((a - b)**2)))print "Alternative distance = ",distAlter#Feature weighted distanceweigh = np.array([0.5,0.3,0.1,0.1]) distFea = np.sqrt(np.dot(weigh,np.abs(a-b)))print "Feature weighted distance = ",distFea
輸出,
[1 2 3 4] [4 3 2 1]Euclidean distance = 4.472135955City-block distance = 8Sup distance = 3Cosine similarity = 0.666666666667Alternative distance = 0.89312207434Feature weighted distance = 1.48323969742
另外有需要云服務(wù)器可以了解下創(chuàng)新互聯(lián)scvps.cn,海內(nèi)外云服務(wù)器15元起步,三天無(wú)理由+7*72小時(shí)售后在線,公司持有idc許可證,提供“云服務(wù)器、裸金屬服務(wù)器、高防服務(wù)器、香港服務(wù)器、美國(guó)服務(wù)器、虛擬主機(jī)、免備案服務(wù)器”等云主機(jī)租用服務(wù)以及企業(yè)上云的綜合解決方案,具有“安全穩(wěn)定、簡(jiǎn)單易用、服務(wù)可用性高、性?xún)r(jià)比高”等特點(diǎn)與優(yōu)勢(shì),專(zhuān)為企業(yè)上云打造定制,能夠滿足用戶豐富、多元化的應(yīng)用場(chǎng)景需求。