KNN算法中如何識(shí)別手寫數(shù)字

今天就跟大家聊聊有關(guān)KNN算法中如何識(shí)別手寫數(shù)字，可能很多人都不太了解，為了讓大家更加了解，小編給大家總結(jié)了以下內(nèi)容，希望大家根據(jù)這篇文章可以有所收獲。

今天來介紹如何使用KNN 算法識(shí)別手寫數(shù)字

1，手寫數(shù)字?jǐn)?shù)據(jù)集

手寫數(shù)字?jǐn)?shù)據(jù)集是一個(gè)用于圖像處理的數(shù)據(jù)集，這些數(shù)據(jù)描繪了 [0, 9] 的數(shù)字，我們可以用KNN 算法來識(shí)別這些數(shù)字。

MNIST 是完整的手寫數(shù)字?jǐn)?shù)據(jù)集，其中包含了60000 個(gè)訓(xùn)練樣本和10000 個(gè)測(cè)試樣本。

sklearn 中也有一個(gè)自帶的手寫數(shù)字?jǐn)?shù)據(jù)集：

• 共包含 1797 個(gè)數(shù)據(jù)樣本，每個(gè)樣本描繪了一個(gè) 8*8 像素的 [0, 9] 的數(shù)字。

• 每個(gè)樣本由 65 個(gè)數(shù)字組成：

• 前 64 個(gè)數(shù)字是特征數(shù)據(jù)，特征數(shù)據(jù)的范圍是 [0, 16]

• 最后一個(gè)數(shù)字是目標(biāo)數(shù)據(jù)，目標(biāo)數(shù)據(jù)的范圍是 [0, 9]

我們抽出 5 個(gè)樣本來看下：

0,0,5,13,9,1,0,0,0,0,13,15,10,15,5,0,0,3,15,2,0,11,8,0,0,4,12,0,0,8,8,0,0,5,8,0,0,9,8,0,0,4,11,0,1,12,7,0,0,2,14,5,10,12,0,0,0,0,6,13,10,0,0,0,0
0,0,0,12,13,5,0,0,0,0,0,11,16,9,0,0,0,0,3,15,16,6,0,0,0,7,15,16,16,2,0,0,0,0,1,16,16,3,0,0,0,0,1,16,16,6,0,0,0,0,1,16,16,6,0,0,0,0,0,11,16,10,0,0,1
0,0,0,4,15,12,0,0,0,0,3,16,15,14,0,0,0,0,8,13,8,16,0,0,0,0,1,6,15,11,0,0,0,1,8,13,15,1,0,0,0,9,16,16,5,0,0,0,0,3,13,16,16,11,5,0,0,0,0,3,11,16,9,0,2
0,0,7,15,13,1,0,0,0,8,13,6,15,4,0,0,0,2,1,13,13,0,0,0,0,0,2,15,11,1,0,0,0,0,0,1,12,12,1,0,0,0,0,0,1,10,8,0,0,0,8,4,5,14,9,0,0,0,7,13,13,9,0,0,3
0,0,0,1,11,0,0,0,0,0,0,7,8,0,0,0,0,0,1,13,6,2,2,0,0,0,7,15,0,9,8,0,0,5,16,10,0,16,6,0,0,4,15,16,13,16,1,0,0,0,0,3,15,10,0,0,0,0,0,2,16,4,0,0,4

使用該數(shù)據(jù)集，需要先加載：

>>> from sklearn.datasets import load_digits
>>> digits = load_digits()

查看第一個(gè)圖像數(shù)據(jù)：

>>> digits.images[0]
array([[ 0.,  0.,  5., 13.,  9.,  1.,  0.,  0.],
       [ 0.,  0., 13., 15., 10., 15.,  5.,  0.],
       [ 0.,  3., 15.,  2.,  0., 11.,  8.,  0.],
       [ 0.,  4., 12.,  0.,  0.,  8.,  8.,  0.],
       [ 0.,  5.,  8.,  0.,  0.,  9.,  8.,  0.],
       [ 0.,  4., 11.,  0.,  1., 12.,  7.,  0.],
       [ 0.,  2., 14.,  5., 10., 12.,  0.,  0.],
       [ 0.,  0.,  6., 13., 10.,  0.,  0.,  0.]])

我們可以用 matplotlib 將該圖像畫出來：

>>> import matplotlib.pyplot as plt
>>> plt.imshow(digits.images[0])
>>> plt.show()

畫出來的圖像如下，代表 0：

2，sklearn 對(duì) KNN 算法的實(shí)現(xiàn)

sklearn 庫的 neighbors 模塊實(shí)現(xiàn)了KNN 相關(guān)算法，其中：

• KNeighborsClassifier 類用于分類問題

• KNeighborsRegressor 類用于回歸問題

這兩個(gè)類的構(gòu)造方法基本一致，這里我們主要介紹 KNeighborsClassifier 類，原型如下：

KNeighborsClassifier(
	n_neighbors=5, 
	weights='uniform', 
	algorithm='auto', 
	leaf_size=30, 
	p=2, 
	metric='minkowski', 
	metric_params=None, 
	n_jobs=None, 
	**kwargs)

來看下幾個(gè)重要參數(shù)的含義：

• n_neighbors：即 KNN 中的 K 值，一般使用默認(rèn)值 5。

• weights：用于確定鄰居的權(quán)重，有三種方式：

• weights=uniform，表示所有鄰居的權(quán)重相同。

• weights=distance，表示權(quán)重是距離的倒數(shù)，即與距離成反比。

• 自定義函數(shù)，可以自定義不同距離所對(duì)應(yīng)的權(quán)重，一般不需要自己定義函數(shù)。

• algorithm：用于設(shè)置計(jì)算鄰居的算法，它有四種方式：

• 調(diào)整 leaf_size 會(huì)影響樹的構(gòu)造和搜索速度。

• 它和 KD 樹相比，采用的是線性掃描，而不是通過構(gòu)造樹結(jié)構(gòu)進(jìn)行快速檢索。

• 缺點(diǎn)是，當(dāng)訓(xùn)練集較大的時(shí)候，效率很低。

• 與KD 樹一樣都是多維空間的數(shù)據(jù)結(jié)構(gòu)。

• 球樹更適用于維度較大的情況。

• KD 樹是一種多維空間的數(shù)據(jù)結(jié)構(gòu)，方便對(duì)數(shù)據(jù)進(jìn)行檢索。

• KD 樹適用于維度較少的情況，一般維數(shù)不超過 20，如果維數(shù)大于 20 之后，效率會(huì)下降。

• algorithm=auto，根據(jù)數(shù)據(jù)的情況自動(dòng)選擇適合的算法。

• algorithm=kd_tree，使用 KD 樹 算法。

• algorithm=ball_tree，使用球樹算法。

• algorithm=brute，稱為暴力搜索。

• leaf_size：表示構(gòu)造 KD 樹或球樹時(shí)的葉子節(jié)點(diǎn)數(shù)，默認(rèn)是 30。

3，構(gòu)造 KNN 分類器

首先加載數(shù)據(jù)集：

from sklearn.datasets import load_digits

digits = load_digits()
data = digits.data     # 特征集
target = digits.target # 目標(biāo)集

將數(shù)據(jù)集拆分為訓(xùn)練集（75%）和測(cè)試集（25%）：

from sklearn.model_selection import train_test_split

train_x, test_x, train_y, test_y = train_test_split(
    data, target, test_size=0.25, random_state=33)

構(gòu)造KNN 分類器：

from sklearn.neighbors import KNeighborsClassifier

# 采用默認(rèn)參數(shù)
knn = KNeighborsClassifier()

擬合模型：

knn.fit(train_x, train_y)

預(yù)測(cè)數(shù)據(jù)：

predict_y = knn.predict(test_x)

計(jì)算模型準(zhǔn)確度：

from sklearn.metrics import accuracy_score

score = accuracy_score(test_y, predict_y)
print score # 0.98

最終計(jì)算出來模型的準(zhǔn)確度是 98%，準(zhǔn)確度還是不錯(cuò)的。

看完上述內(nèi)容，你們對(duì)KNN算法中如何識(shí)別手寫數(shù)字有進(jìn)一步的了解嗎？如果還想了解更多知識(shí)或者相關(guān)內(nèi)容，請(qǐng)關(guān)注億速云行業(yè)資訊頻道，感謝大家的支持。