您好,登錄后才能下訂單哦!
這篇文章主要為大家展示了python代碼如何實(shí)現(xiàn)k-means聚類分析,內(nèi)容簡(jiǎn)而易懂,希望大家可以學(xué)習(xí)一下,學(xué)習(xí)完之后肯定會(huì)有收獲的,下面讓小編帶大家一起來(lái)看看吧。
一、實(shí)驗(yàn)?zāi)繕?biāo)
1、使用 K-means 模型進(jìn)行聚類,嘗試使用不同的類別個(gè)數(shù) K,并分析聚類結(jié)果。
​ 2、按照 8:2 的比例隨機(jī)將數(shù)據(jù)劃分為訓(xùn)練集和測(cè)試集,至少嘗試 3 個(gè)不同的 K 值,并畫出不同 K 下 的聚類結(jié)果,及不同模型在訓(xùn)練集和測(cè)試集上的損失。對(duì)結(jié)果進(jìn)行討論,發(fā)現(xiàn)能解釋數(shù)據(jù)的最好的 K 值。二、算法原理
首先確定k,隨機(jī)選擇k個(gè)初始點(diǎn)之后所有點(diǎn)根據(jù)距離質(zhì)點(diǎn)的距離進(jìn)行聚類分析,離某一個(gè)質(zhì)點(diǎn)a相較于其他質(zhì)點(diǎn)最近的點(diǎn)分配到a的類中,根據(jù)每一類mean值更新迭代聚類中心,在迭代完成后分別計(jì)算訓(xùn) 練集和測(cè)試集的損失函數(shù)SSE_train、SSE_test,畫圖進(jìn)行分析。
偽代碼如下:
num=10 #k的種類 for k in range(1,num): 隨機(jī)選擇k個(gè)質(zhì)點(diǎn) for i in range(n): #迭代n次 根據(jù)點(diǎn)與質(zhì)點(diǎn)間的距離對(duì)于X_train進(jìn)行聚類 根據(jù)mean值迭代更新質(zhì)點(diǎn) 計(jì)算SSE_train 計(jì)算SSE_test 畫圖
算法流程圖:
三、代碼實(shí)現(xiàn)
1、導(dǎo)入庫(kù)
import pandas as pd import matplotlib.pyplot as plt import numpy as np from sklearn.model_selection import train_test_split
2、計(jì)算距離
def distance(p1,p2): return np.sqrt((p1[0]-p2[0])**2+(p1[1]-p2[1])**2)
3、計(jì)算均值
def means(arr): return np.array([np.mean([p[0] for p in arr]),np.mean([p[1] for p in arr])])
4、二維數(shù)據(jù)處理
#數(shù)據(jù)處理 data= pd.read_table('cluster.dat',sep='\t',header=None) data.columns=['x'] data['y']=None for i in range(len(data)): #遍歷每一行 column = data['x'][i].split( ) #分開第i行,x列的數(shù)據(jù)。split()默認(rèn)是以空格等符號(hào)來(lái)分割,返回一個(gè)列表 data['x'][i]=column[0] #分割形成的列表第一個(gè)數(shù)據(jù)給x列 data['y'][i]=column[1] #分割形成的列表第二個(gè)數(shù)據(jù)給y列 list=[] list1=[] for i in range(len(data)): list.append(float(data['x'][i])) list.append(float(data['y'][i])) list1.append(list) list=[] arr=np.array(list1) print(arr)
5、劃分?jǐn)?shù)據(jù)集和訓(xùn)練集
#按照8:2劃分?jǐn)?shù)據(jù)集和訓(xùn)練集 X_train, X_test = train_test_split(arr,test_size=0.2,random_state=1)
6、主要聚類實(shí)現(xiàn)
count=10 #k的種類:1、2、3...10 SSE_train=[] #訓(xùn)練集的SSE SSE_test=[] #測(cè)試集的SSE n=20 #迭代次數(shù) for k in range(1,count): cla_arr=[] #聚類容器 centroid=[] #質(zhì)點(diǎn) for i in range(k): j=np.random.randint(0,len(X_train)) centroid.append(list1[j]) cla_arr.append([]) centroids=np.array(centroid) cla_tmp=cla_arr #臨時(shí)訓(xùn)練集聚類容器 cla_tmp1=cla_arr #臨時(shí)測(cè)試集聚類容器 for i in range(n): #開始迭代 for e in X_train: #對(duì)于訓(xùn)練集中的點(diǎn)進(jìn)行聚類分析 pi=0 min_d=distance(e,centroids[pi]) for j in range(k): if(distance(e,centroids[j])<min_d): min_d=distance(e,centroids[j]) pi=j cla_tmp[pi].append(e) #添加點(diǎn)到相應(yīng)的聚類容器中 for m in range(k): if(n-1==i): break centroids[m]=means(cla_tmp[m])#迭代更新聚類中心 cla_tmp[m]=[] dis=0 for i in range(k): #計(jì)算訓(xùn)練集的SSE_train for j in range(len(cla_tmp[i])): dis+=distance(centroids[i],cla_tmp[i][j]) SSE_train.append(dis) col = ['HotPink','Aqua','Chartreuse','yellow','red','blue','green','grey','orange'] #畫出對(duì)應(yīng)K的散點(diǎn)圖 for i in range(k): plt.scatter([e[0] for e in cla_tmp[i]],[e[1] for e in cla_tmp[i]],color=col[i]) plt.scatter(centroids[i][0],centroids[i][1],linewidth=3,s=300,marker='+',color='black') plt.show() for e in X_test: #測(cè)試集根據(jù)訓(xùn)練集的質(zhì)點(diǎn)進(jìn)行聚類分析 ki=0 min_d=distance(e,centroids[ki]) for j in range(k): if(distance(e,centroids[j])<min_d): min_d=distance(e,centroids[j]) ki=j cla_tmp1[ki].append(e) for i in range(k): #計(jì)算測(cè)試集的SSE_test for j in range(len(cla_tmp1[i])): dis+=distance(centroids[i],cla_tmp1[i][j]) SSE_test.append(dis)
7、畫圖
SSE=[] #計(jì)算測(cè)試集與訓(xùn)練集SSE的差值 for i in range(len(SSE_test)): SSE.append(SSE_test[i]-SSE_train[i]) x=[1,2,3,4,5,6,7,8,9] plt.figure() plt.plot(x,SSE_train,marker='*') plt.xlabel("K") plt.ylabel("SSE_train") plt.show() #畫出SSE_train的圖 plt.figure() plt.plot(x,SSE_test,marker='*') plt.xlabel("K") plt.ylabel("SSE_test") plt.show() #畫出SSE_test的圖 plt.figure() plt.plot(x,SSE,marker='+') plt.xlabel("K") plt.ylabel("SSE_test-SSE_train") plt.show() #畫出SSE_test-SSE_train的圖
四、實(shí)驗(yàn)結(jié)果分析
可以看出SSE隨著K的增長(zhǎng)而減小,測(cè)試集和訓(xùn)練集的圖形趨勢(shì)幾乎一致,在相同的K值下,測(cè)試集的SSE大于訓(xùn)練集的SSE。于是我對(duì)于在相同的K值下的SSE_test和SSE_train做了減法(上圖3),可知K=4時(shí)數(shù)據(jù)得出結(jié)果最好。這里我主要使用肘部原則來(lái)判斷。本篇并未實(shí)現(xiàn)輪廓系數(shù)。
以上就是關(guān)于python代碼如何實(shí)現(xiàn)k-means聚類分析的內(nèi)容,如果你們有學(xué)習(xí)到知識(shí)或者技能,可以把它分享出去讓更多的人看到。
免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如果涉及侵權(quán)請(qǐng)聯(lián)系站長(zhǎng)郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。