python怎么實(shí)現(xiàn)K-means算法

本篇內(nèi)容介紹了“python怎么實(shí)現(xiàn)K-means算法”的有關(guān)知識(shí)，在實(shí)際案例的操作過程中，不少人都會(huì)遇到這樣的困境，接下來就讓小編帶領(lǐng)大家學(xué)習(xí)一下如何處理這些情況吧！希望大家仔細(xì)閱讀，能夠?qū)W有所成！

　　K-means 聚類算法

　　特點(diǎn)

　　對(duì)初始化敏感。初始點(diǎn)選擇的不同，可能會(huì)產(chǎn)生不同的聚類結(jié)果

　　最終會(huì)收斂。不管初始點(diǎn)如何選擇，最終都會(huì)收斂

　　算法思想

　　選擇K個(gè)點(diǎn)作為初始質(zhì)心

　　repeat

　　將每個(gè)點(diǎn)指派到最近的質(zhì)心，形成K個(gè)簇

　　重新計(jì)算每個(gè)簇的質(zhì)心

　　until 簇不發(fā)生變化或達(dá)到最大迭代次數(shù)

　　代碼實(shí)現(xiàn)

　　實(shí)驗(yàn)?zāi)康?/p>

　　根據(jù)下列成績單，將5名同學(xué)成績歸為A類、B類、C類。

　　限制：使用Kmeans算法實(shí)現(xiàn)，但不直接調(diào)用sklearn第三方庫的KMeans函數(shù)。

　　學(xué)生姓名　　小測(cè)1　　小測(cè)2　　小測(cè)3　　期末成績　　項(xiàng)目答辯　　成績

　　張三　　12　　15　　13　　28　　24　　?

　　李四　　7　　11　　10　　19　　21　　?

　　王五　　12　　14　　11　　27　　23　　?

　　趙六　　6　　7　　4　　13　　20　　?

　　劉七　　13　　14　　13　　27　　25　　?

　　實(shí)驗(yàn)步驟

　　1. 數(shù)據(jù)準(zhǔn)備

　　將數(shù)據(jù)儲(chǔ)存為csv文件，格式如下

　　學(xué)生姓名,小測(cè)1,小測(cè)2,小測(cè)3,期末成績,項(xiàng)目答辯

　　張三,12,15,13,28,24

　　李四,7,11,10,19,21

　　王五,12,14,11,27,23

　　趙六,6,7,4,13,20

　　劉七,13,14,13,27,25

　　在從csv文件中讀取數(shù)據(jù)，并選取可用的數(shù)據(jù)(排除姓名列)

　　data = pd.read_csv('grade.csv')

　　new_data = data.iloc[:, 1:].values

　　2. KMeans算法實(shí)現(xiàn)

　　KMeans算法涉及兩點(diǎn)之間距離的計(jì)算，我們提前寫好一個(gè)函數(shù)：輸入兩個(gè)點(diǎn)的坐標(biāo)，返回兩點(diǎn)之間的歐氏距離

　　def eucliDist(A, B):

　　return math.sqrt(sum([(a - b) ** 2 for (a, b) in zip(A, B)]))

　　函數(shù)k_means(c,data,max,label)實(shí)現(xiàn)KMeans算法：

　　a. 輸入：質(zhì)心列表c，待聚類數(shù)據(jù)data，最大迭代次數(shù)max，標(biāo)簽列表label

　　b. 計(jì)算data中的每個(gè)點(diǎn)分別到3個(gè)質(zhì)心的歐式距離，得到一個(gè)矩陣metrix

　　metrix = [[eucliDist(a, b) for a in data] for b in c]

　　c. 比較矩陣metrix同一列的數(shù)值大小，將對(duì)應(yīng)的學(xué)生劃歸距離較短的質(zhì)心所屬的類，將標(biāo)簽存儲(chǔ)為列表.

　　classifier = []

　　for (d, e, f) in zip(metrix[0], metrix[1], metrix[2]):

　　m = min(d, e, f)

　　if d == m:

　　classifier.append(label[0])

　　elif e == m:

　　classifier.append(label[1])

　　else:

　　classifier.append(label[2])

　　d. 重新計(jì)算質(zhì)心的坐標(biāo)，新質(zhì)心的坐標(biāo)=被劃歸同一類點(diǎn)的坐標(biāo)的平均值

　　n1, n2 = 0, 0

　　c1 = [0, 0, 0, 0, 0]

　　c2 = c1

　　c3 = c1

　　for i in range(0, num):

　　if classifier[i] == label[0]:

　　c1 = [a + b for (a, b) in zip(c1, data[i])]

　　n1 = n1 + 1

　　elif classifier[i] == label[1]:

　　c2 = [a + b for (a, b) in zip(c2, data[i])]

　　n2 = n2 + 1

　　else:

　　c3 = [a + b for (a, b) in zip(c3, data[i])]

　　c1 = [a / n1 for a in c1]

　　c2 = [a / n2 for a in c2]

　　c3 = [a / (num - n1 - n2) for a in c3]

　　e. 重復(fù)b~d，直到質(zhì)心坐標(biāo)不再變化或達(dá)到最大迭代次數(shù)

　　f. 返回標(biāo)簽列表

　　完整函數(shù)如下

　　def k_means(c, data, max,label):

　　# a. 輸入質(zhì)心列表c，待聚類數(shù)據(jù)`data`，最大迭代次數(shù)max

　　max = max - 1

　　num = len(data)

　　# b. 計(jì)算data中的每個(gè)點(diǎn)分到k個(gè)質(zhì)心的距離，得到一個(gè)矩陣，如

　　metrix = [[eucliDist(a, b) for a in data] for b in c]

　　print(metrix)

　　# c. 比較矩陣同一列的數(shù)值大小，將對(duì)應(yīng)的學(xué)生劃歸距離較短的質(zhì)心所屬的類，將標(biāo)簽存儲(chǔ)為列表

　　classifier = []鄭州做人流手術(shù)費(fèi)用 http://4g.zyfuke.com/

　　for (d, e, f) in zip(metrix[0], metrix[1], metrix[2]):

　　m = min(d, e, f)

　　if d == m:

　　classifier.append(label[0])

　　elif e == m:

　　classifier.append(label[1])

　　else:

　　classifier.append(label[2])

　　print(classifier)

　　# d. 重新計(jì)算質(zhì)心的坐標(biāo)，新質(zhì)心的坐標(biāo)=被劃歸同一類點(diǎn)的坐標(biāo)的平均值

　　n1, n2 = 0, 0

　　c1 = [0, 0, 0, 0, 0]

　　c2 = c1

　　c3 = c1

　　for i in range(0, num):

　　if classifier[i] == label[0]:

　　c1 = [a + b for (a, b) in zip(c1, data[i])]

　　n1 = n1 + 1

　　elif classifier[i] == label[1]:

　　c2 = [a + b for (a, b) in zip(c2, data[i])]

　　n2 = n2 + 1

　　else:

　　c3 = [a + b for (a, b) in zip(c3, data[i])]

　　c1 = [a / n1 for a in c1]

　　c2 = [a / n2 for a in c2]

　　c3 = [a / (num - n1 - n2) for a in c3]

　　print(max)

　　print([c1,c2,c3])

　　# e. 重復(fù)b~d，直到質(zhì)心坐標(biāo)不再變化,或達(dá)到最大迭代次數(shù)

　　if c != [c1, c2, c3] and max > 0:

　　c = [c1, c2, c3]

　　print(c)

　　k_means(c, data, max, label)

　　return classifier

　　3. 設(shè)置參數(shù)，調(diào)用函數(shù)，得到結(jié)果

　　設(shè)置初始質(zhì)心、標(biāo)簽列表、最大迭代次數(shù)

　　# 選擇K個(gè)點(diǎn)作為初始質(zhì)心

　　c = [[12, 15, 13, 28, 24], [ 7, 11, 10, 19, 21],[12, 14, 11, 27, 23]]

　　label = ['A', 'B', 'C']

　　max = 20

　　調(diào)用函數(shù)，整理結(jié)果

　　grade = k_means(c, new_data, max, label)

　　grade = pd.Series(grade, index=data['學(xué)生姓名'])

　　print(grade)

　　實(shí)驗(yàn)結(jié)果

　　初始質(zhì)心為[12, 15, 13, 28, 24], [ 7, 11, 10, 19, 21],[12, 14, 11, 27, 23]時(shí)，迭代2次即收斂，結(jié)果如下

　　學(xué)生姓名　　小測(cè)1　　小測(cè)2　　小測(cè)3　　期末成績　　項(xiàng)目答辯　　成績

　　張三　　12　　15　　13　　28　　24　　A

　　李四　　7　　11　　10　　19　　21　　B

　　王五　　12　　14　　11　　27　　23　　C

　　趙六　　6　　7　　4　　13　　20　　B

　　劉七　　13　　14　　13　　27　　25　　A

“python怎么實(shí)現(xiàn)K-means算法”的內(nèi)容就介紹到這里了，感謝大家的閱讀。如果想了解更多行業(yè)相關(guān)的知識(shí)可以關(guān)注億速云網(wǎng)站，小編將為大家輸出更多高質(zhì)量的實(shí)用文章！