如何使用python實現(xiàn)k-means聚類算法

小編給大家分享一下如何使用python實現(xiàn)k-means聚類算法，相信大部分人都還不怎么了解，因此分享這篇文章給大家參考一下，希望大家閱讀完這篇文章后大有收獲，下面讓我們一起去了解一下吧！

k-means聚類算法

k-means是發(fā)現(xiàn)給定數(shù)據(jù)集的k個簇的算法，也就是將數(shù)據(jù)集聚合為k類的算法。

算法過程如下：
1）從N個文檔隨機(jī)選取K個文檔作為質(zhì)心
2）對剩余的每個文檔測量其到每個質(zhì)心的距離，并把它歸到最近的質(zhì)心的類，我們一般取歐幾里得距離
3）重新計算已經(jīng)得到的各個類的質(zhì)心
4）迭代步驟（2）、（3）直至新的質(zhì)心與原質(zhì)心相等或迭代次數(shù)大于指定閾值，算法結(jié)束

算法實現(xiàn)

隨機(jī)初始化k個質(zhì)心，用dict保存質(zhì)心的值以及被聚類到該簇中的所有data。

def initCent(dataSet , k):
 N = shape(dataSet)[1]
 cents = {}
 randIndex=[]
 #隨機(jī)生成k個不重復(fù)的索引
 for i in range(k): 
 rand = random.randint(0,N)
 while rand in randIndex:
  rand = random.randint(0, N)
 randIndex.append(rand)
 #按索引取dataSet中的data作為質(zhì)心
 for i in range(k):
 templist = []
 templist.append(dataSet[randIndex[i]])
 templist.append([dataSet[randIndex[i]]])
 cents[i] = templist
 return cents

對dataSet中的所有數(shù)據(jù)進(jìn)行一次聚類。返回值cents為dict類型的數(shù)據(jù)，int類型的key，list類型的value。其中cents[i][0]為質(zhì)心位置，cents[i][1]為存儲該簇中所有data的列表。

#計算兩個向量的歐氏距離
def calDist(X1 , X2):
 sum = 0
 for x1 , x2 in zip(X1 , X2):
 sum += (x1 - x2) ** 2
 return sum ** 0.5

#聚類
def doKmeans(dataSet , k , cents):
 #清空上一次迭代后的簇中元素，只記錄質(zhì)心
 for i in range(k):
 cents[i][1] = []
 for data in dataSet:
 no = 0#初始化簇標(biāo)號
 minDist = sys.maxint#初始化data與k個質(zhì)心的最短距離
 for i in range(k):
  dist = calDist(data , cents[i][0])
  if dist < minDist:
  minDist = dist
  no = i
 #找到距離最近的質(zhì)心
 cents[no][1].append(data)
 #更新質(zhì)心
 for i in range(k):
 for j in range(shape(dataSet)[0]):
  cents[i][0] = mean(cents[i][1],axis=0).tolist()
 return cents

k-means主方法

#判斷兩次聚類的結(jié)果是否相同
def isEqual(old , new):
 for i in range(len(old)):
 if(old[i] != new[i][0]):
  return 0
 return 1

#主方法
def kmeans_main(dataSet,k):
 cents = initCent(dataSet, k)
 for x in range(1000):
 oldcents = []
 #拷貝上一次迭代的結(jié)果
 for i in cents.keys():
  oldcents.append(cents[i][0])
 newcents = doKmeans(dataSet, k , cents)
 #若相鄰兩次迭代結(jié)果相同，算法結(jié)束
 if isEqual(oldcents , newcents)>0:
  break
 cents = newcents
 return cents

結(jié)果測試

數(shù)據(jù)集（虛構(gòu)）

2 3 2.54
2 1 0.72
3 5 3.66
4 3 1.71
3.11 5.29 4.13
4.15 2 3.1
3.12 3.33 3.72
1.49 5 2.6
3 5 2.88
3.9 1.78 2.56
-2 3 5
3 1 0.4
-2 1 2.2
-3 0 1.7
-4 1 2
8 -1 0
2 3.2 7.1
1 3 5
2 4 3
0.1 2 5.4
2 0 5.54
2 1 1.72
3 5 2.66
1 8 1.71
5.11 1.29 4.13
7.15 2 7.1
1.12 5.33 4.72
6.49 4 3.6
4 8 6.88
1.9 5.78 6.56
-2 -3 2.5
1 -1 2.4
-2 1 3.2
-1 0 5.7
-2 3 2
1 -1 4
3 4.2 6.1
5 2 5
3 5.7 13
0.9 2.9 1.4

畫圖方法

def draw(cents):
 color = [ 'y', 'g', 'b']
 X = []
 Y = []
 Z = []
 fig = plt.figure()
 ax = Axes3D(fig)
 for i in cents.keys():
 X.append(cents[i][0][0])
 Y.append(cents[i][0][1])
 Z.append(cents[i][0][2])
 ax.scatter(X, Y, Z,alpha=0.4,marker='o',color='r', label=str(i))
 for i in cents.keys():
 X = []
 Y = []
 Z = []
 data = cents[i][1]
 for vec in data:
  X.append(vec[0])
  Y.append(vec[1])
  Z.append(vec[2])
 ax.scatter(X, Y, Z, alpha=0.4,marker='o', color=color[i], label=str(i),)
 plt.show()

測試及結(jié)果展示（紅點(diǎn)表示質(zhì)心）

dataSet = loadDataSet("dataSet.txt")
cents = kmeans_main(dataSet , 3)
draw(cents)

以上是“如何使用python實現(xiàn)k-means聚類算法”這篇文章的所有內(nèi)容，感謝各位的閱讀！相信大家都有了一定的了解，希望分享的內(nèi)容對大家有所幫助，如果還想學(xué)習(xí)更多知識，歡迎關(guān)注億速云行業(yè)資訊頻道！