您好,登錄后才能下訂單哦!
這篇文章主要介紹“怎么用Python中從頭開始的實(shí)現(xiàn)完整的異常檢測(cè)算法”,在日常操作中,相信很多人在怎么用Python中從頭開始的實(shí)現(xiàn)完整的異常檢測(cè)算法問題上存在疑惑,小編查閱了各式資料,整理出簡(jiǎn)單好用的操作方法,希望對(duì)大家解答”怎么用Python中從頭開始的實(shí)現(xiàn)完整的異常檢測(cè)算法”的疑惑有所幫助!接下來,請(qǐng)跟著小編一起來學(xué)習(xí)吧!
利用概率的異常檢測(cè)算法
異常檢測(cè)可以作為離群分析的統(tǒng)計(jì)任務(wù)來對(duì)待。 但是,如果我們開發(fā)一個(gè)機(jī)器學(xué)習(xí)模型,它可以自動(dòng)化,并且像往常一樣可以節(jié)省大量時(shí)間。 有很多異常檢測(cè)用例。 信用卡欺詐檢測(cè),故障機(jī)器檢測(cè)或基于其異常功能的硬件系統(tǒng)檢測(cè),基于病歷的疾病檢測(cè)都是很好的例子。 還有更多用例。 并且異常檢測(cè)的使用只會(huì)增加。
公式和過程
與我之前解釋的其他機(jī)器學(xué)習(xí)算法相比,這將簡(jiǎn)單得多。 該算法將使用均值和方差來計(jì)算每個(gè)訓(xùn)練數(shù)據(jù)的概率。
如果一個(gè)訓(xùn)練示例的概率很高,那是正常的。 如果某個(gè)訓(xùn)練示例的概率較低,則為異常示例。 對(duì)于不同的訓(xùn)練集,高概率和低概率的定義將有所不同。 稍后我們將討論如何確定。
如果我必須解釋異常檢測(cè)的工作過程,那非常簡(jiǎn)單。
(1) 使用以下公式計(jì)算平均值:
這里m是數(shù)據(jù)集的長(zhǎng)度或訓(xùn)練數(shù)據(jù)的數(shù)量,xi是一個(gè)訓(xùn)練示例。 如果您擁有多個(gè)訓(xùn)練功能,那么大多數(shù)時(shí)候您將需要為每個(gè)功能計(jì)算平均值。
(2) 使用以下公式計(jì)算方差:
此處,mu是從上一步計(jì)算得出的平均值。
(3) 現(xiàn)在,使用此概率公式計(jì)算每個(gè)訓(xùn)練示例的概率。
不要為這個(gè)公式中的加號(hào)感到困惑! 這實(shí)際上是對(duì)角線形狀的變化。
稍后我們將實(shí)現(xiàn)算法時(shí),您將看到它的外觀。
(4) 我們現(xiàn)在需要找到概率的閾值。 正如我之前提到的,如果訓(xùn)練示例的概率較低,那么這就是一個(gè)異常示例。
低概率是多少概率?
沒有通用的限制。 我們需要為我們的訓(xùn)練數(shù)據(jù)集找到答案。
我們從步驟3中獲得的輸出中獲取一系列概率值。對(duì)于每種概率,如果數(shù)據(jù)是異?;蛘5?,請(qǐng)找到標(biāo)簽。
然后計(jì)算一系列概率的精度,召回率和f1分?jǐn)?shù)。
可以使用以下公式計(jì)算精度
召回率可以通過以下公式計(jì)算:
在此,"正肯定"是指算法將示例檢測(cè)為異常并且實(shí)際上是異常的情況下的數(shù)量。
當(dāng)算法將示例檢測(cè)為異常時(shí)會(huì)出現(xiàn)誤報(bào),但事實(shí)并非如此。
False Negative表示算法檢測(cè)到的示例不是異常示例,但實(shí)際上,這是一個(gè)異常示例。
從上面的公式中,您可以看到更高的精度和更高的召回率總會(huì)很好,因?yàn)檫@意味著我們擁有更多的積極優(yōu)勢(shì)。 但是同時(shí),如您在公式中所看到的,誤報(bào)和誤報(bào)也起著至關(guān)重要的作用。 那里需要保持平衡。 根據(jù)您所在的行業(yè),您需要確定哪個(gè)是您可以容忍的。
一個(gè)好的方法是取平均值。 有一個(gè)求平均值的獨(dú)特公式。 這就是f1分?jǐn)?shù)。 f1得分的公式是:
這里,P和R分別是精度和召回率。
我不會(huì)詳細(xì)說明為什么公式如此獨(dú)特。 因?yàn)楸疚氖顷P(guān)于異常檢測(cè)的。 如果您有興趣了解有關(guān)精度,召回率和f1得分的更多信息,請(qǐng)?jiān)诖颂幉榭从嘘P(guān)該主題的詳細(xì)文章:
完全了解精度,召回率和F分?jǐn)?shù)概念
如何處理機(jī)器學(xué)習(xí)中偏斜的數(shù)據(jù)集
根據(jù)f1分?jǐn)?shù),您需要選擇閾值概率。
1是完美的f得分,0是最差的概率得分。
異常檢測(cè)算法
我將使用Andrew Ng的機(jī)器學(xué)習(xí)課程中的數(shù)據(jù)集,該數(shù)據(jù)集具有兩個(gè)訓(xùn)練功能。 我沒有使用本文的真實(shí)數(shù)據(jù)集,因?yàn)樵摂?shù)據(jù)集非常適合學(xué)習(xí)。 它只有兩個(gè)功能。 在任何現(xiàn)實(shí)世界的數(shù)據(jù)集中,不可能只有兩個(gè)功能。
開始任務(wù)吧!
首先,導(dǎo)入必要的軟件包
import pandas as pd import numpy as np
導(dǎo)入數(shù)據(jù)集。 這是一個(gè)excel數(shù)據(jù)集。 此處,訓(xùn)練數(shù)據(jù)和交叉驗(yàn)證數(shù)據(jù)存儲(chǔ)在單獨(dú)的表格中。 因此,讓我們帶來培訓(xùn)數(shù)據(jù)。
df = pd.read_excel('ex8data1.xlsx', sheet_name='X', header=None) df.head()
讓我們針對(duì)第1列繪制第0列。
plt.figure() plt.scatter(df[0], df[1]) plt.show()
通過查看此圖,您可能知道哪些數(shù)據(jù)是異常的。
檢查此數(shù)據(jù)集中有多少訓(xùn)練示例:
m = len(df)
計(jì)算每個(gè)特征的平均值。 這里我們只有兩個(gè)功能:0和1。
s = np.sum(df, axis=0) mu = s/mmu
輸出:
0 14.1122261 14.997711 dtype: float64
根據(jù)上面"公式和過程"部分所述的公式,計(jì)算出方差:
vr = np.sum((df - mu)**2, axis=0) variance = vr/mvariance
輸出:
0 1.8326311 1.709745 dtype: float64
現(xiàn)在使其成為對(duì)角線形狀。 正如我在概率公式后面的"公式和過程"部分所解釋的那樣,求和符號(hào)實(shí)際上是方差的對(duì)角線。
var_dia = np.diag(variance) var_dia
輸出:
array([[1.83263141, 0. ], [0. , 1.70974533]])
計(jì)算概率:
k = len(mu) X = df - mu p = 1/((2*np.pi)**(k/2)*(np.linalg.det(var_dia)**0.5))* np.exp(-0.5* np.sum(X @ np.linalg.pinv(var_dia) * X,axis=1)) p
訓(xùn)練部分完成。
下一步是找出閾值概率。 如果該概率低于閾值概率,則示例數(shù)據(jù)為異常數(shù)據(jù)。 但是我們需要為我們的特殊情況找出該閾值。
在此步驟中,我們使用交叉驗(yàn)證數(shù)據(jù)以及標(biāo)簽。 在此數(shù)據(jù)集中,我們具有交叉驗(yàn)證數(shù)據(jù)以及單獨(dú)的工作表中的標(biāo)簽。
對(duì)于您的情況,您只需保留原始數(shù)據(jù)的一部分以進(jìn)行交叉驗(yàn)證。
現(xiàn)在導(dǎo)入交叉驗(yàn)證數(shù)據(jù)和標(biāo)簽:
cvx = pd.read_excel('ex8data1.xlsx', sheet_name='Xval', header=None) cvx.head()
標(biāo)簽是:
cvy = pd.read_excel('ex8data1.xlsx', sheet_name='y', header=None) cvy.head()
我將" cvy"轉(zhuǎn)換為NumPy數(shù)組只是因?yàn)槲蚁矚g使用數(shù)組。 DataFrames也很好。
y = np.array(cvy)
輸出:
#Part of the array array([[0], [0], [0], [0], [0], [0], [0], [0], [0],
在這里," y"的值為0表示這是一個(gè)正常的例子,而y的值為1則表示這是一個(gè)異常的例子。
現(xiàn)在,如何選擇閾值?
我不想只是從概率列表中檢查所有概率。 那可能是不必要的。 讓我們?cè)贆z查幾率值。
p.describe()
輸出:
count 3.070000e+02 mean 5.905331e-02 std 2.324461e-02 min 1.181209e-2325% 4.361075e-0250% 6.510144e-0275% 7.849532e-02 max 8.986095e-02 dtype: float64
如您在圖片中看到的,我們沒有太多異常數(shù)據(jù)。 因此,如果我們僅從75%的值開始,那應(yīng)該很好。 但是為了更加安全,我將從平均值開始。
因此,我們將從平均值到較低范圍取一系列概率。 我們將檢查該范圍內(nèi)每個(gè)概率的f1分?jǐn)?shù)。
首先,定義一個(gè)函數(shù)來計(jì)算真實(shí)肯定,錯(cuò)誤肯定和錯(cuò)誤否定:
def tpfpfn(ep): tp, fp, fn = 0, 0, 0 for i in range(len(y)): if p[i] <= ep and y[i][0] == 1: tp += 1 elif p[i] <= ep and y[i][0] == 0: fp += 1 elif p[i] > ep and y[i][0] == 1: fn += 1 return tp, fp, fn
列出小于或等于平均概率的概率。
eps = [i for i in p if i <= p.mean()]
檢查清單的長(zhǎng)度,
len(eps)
輸出:
133
根據(jù)我們之前討論的公式,定義一個(gè)函數(shù)來計(jì)算f1分?jǐn)?shù):
def f1(ep): tp, fp, fn = tpfpfn(ep) prec = tp/(tp + fp) rec = tp/(tp + fn) f1 = 2*prec*rec/(prec + rec) return f1
所有功能都準(zhǔn)備就緒!
現(xiàn)在計(jì)算所有ε或我們之前選擇的概率值范圍的f1分?jǐn)?shù)。
f = [] for i in eps: f.append(f1(i)) f
輸出:
[0.14285714285714285, 0.14035087719298248, 0.1927710843373494, 0.1568627450980392, 0.208955223880597, 0.41379310344827586, 0.15517241379310345, 0.28571428571428575, 0.19444444444444445, 0.5217391304347826, 0.19718309859154928, 0.19753086419753085, 0.29268292682926833, 0.14545454545454545,
這是f得分列表的一部分。 長(zhǎng)度應(yīng)為133。
f分?jǐn)?shù)通常介于0和1之間,其中1是完美的f分?jǐn)?shù)。 f1分?jǐn)?shù)越高越好。 因此,我們需要從剛剛計(jì)算出的" f"分?jǐn)?shù)列表中獲得最高的f分?jǐn)?shù)。
現(xiàn)在,使用" argmax"函數(shù)確定最大f得分值的索引。
np.array(f).argmax()
輸出:
131
現(xiàn)在使用該索引來獲取閾值概率。
e = eps[131] e
輸出:
6.107184445968581e-05
找出異常的例子
我們有閾值概率。 我們可以從中找出訓(xùn)練數(shù)據(jù)的標(biāo)簽。
如果概率值小于或等于該閾值,則數(shù)據(jù)為異常,否則為正常。 我們將正常數(shù)據(jù)和異常數(shù)據(jù)分別表示為0和1,
label = [] for i in range(len(df)): if p[i] <= e: label.append(1) else: label.append(0) label
輸出:
[0, 0, 0, 0, 0, 0, 0, 0, 0, 0,
這是標(biāo)簽列表的一部分。
我將在上面的訓(xùn)練數(shù)據(jù)集中添加此計(jì)算出的標(biāo)簽:
df['label'] = np.array(label) df.head()
我繪制了紅色標(biāo)簽為1以及黑色標(biāo)簽為零的數(shù)據(jù)。 這是情節(jié)。
是否有意義?
是嗎? 紅色的數(shù)據(jù)顯然是異常的。
到此,關(guān)于“怎么用Python中從頭開始的實(shí)現(xiàn)完整的異常檢測(cè)算法”的學(xué)習(xí)就結(jié)束了,希望能夠解決大家的疑惑。理論與實(shí)踐的搭配能更好的幫助大家學(xué)習(xí),快去試試吧!若想繼續(xù)學(xué)習(xí)更多相關(guān)知識(shí),請(qǐng)繼續(xù)關(guān)注億速云網(wǎng)站,小編會(huì)繼續(xù)努力為大家?guī)砀鄬?shí)用的文章!
免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如果涉及侵權(quán)請(qǐng)聯(lián)系站長(zhǎng)郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。