怎么使用numpy實(shí)現(xiàn)LR算法

這篇文章主要介紹“怎么使用numpy實(shí)現(xiàn)LR算法”，在日常操作中，相信很多人在怎么使用numpy實(shí)現(xiàn)LR算法問題上存在疑惑，小編查閱了各式資料，整理出簡(jiǎn)單好用的操作方法，希望對(duì)大家解答”怎么使用numpy實(shí)現(xiàn)LR算法”的疑惑有所幫助！接下來，請(qǐng)跟著小編一起來學(xué)習(xí)吧！

一個(gè)例子

問題: 如果給你一個(gè)給你 1000000 個(gè)數(shù)據(jù) a1~a1000000，以及 1000000 個(gè)數(shù)據(jù) b1~b1000000，要你求每一對(duì) ai 和 bi 相乘的結(jié)果的總和c，你會(huì)怎么做？

采用for循環(huán)累加的代碼如下

計(jì)算結(jié)果：249879.05298545936, for 循環(huán)計(jì)算耗時(shí)：519.999980927ms

如果采用numpy來進(jìn)行同等的操作(向量化)

計(jì)算結(jié)果：249879.05298545936, 矩陣計(jì)算耗時(shí)：0.999927520752ms

這計(jì)算速度的差距比馬里亞納海溝還深, 之所以差距會(huì)這么大, 是因?yàn)閚umpy, matlab這類矩陣運(yùn)算的程序, 充分利用了現(xiàn)代CPU的SIMD技術(shù), 極大提高了運(yùn)算效率

向量化在LR中的應(yīng)用

現(xiàn)在我們拿最簡(jiǎn)單的LR邏輯回歸來講一下, 如何使用向量化的技巧, 手動(dòng)訓(xùn)練模型

假如我們選用 BGD(批量梯度下降) 或者 MBGD(小批量梯度下降), 那么LR的參數(shù)訓(xùn)練公式為

可以看到, 上述推導(dǎo)的公式中,中間的那個(gè)大矩陣, 其實(shí)就是輸入數(shù)據(jù)矩陣的轉(zhuǎn)置,這樣代碼實(shí)現(xiàn)就很簡(jiǎn)單了, 使用numpy實(shí)現(xiàn)的LR算法為

def grand_ascent(data_train, data_label):
    dataMatrix = np.mat(data_train)
    labelMat = np.mat(data_label).transpose()
    m, n = np.shape(dataMatrix)
    weights = np.ones((n, 1))
    alpha = 0.001
    
    for i in range(0, 500):
        h = sigmoid(dataMatrix * weights)
        weights = weights + alpha * dataMatrix.transpose() * (labelMat - h)        
    return weights

到此，關(guān)于“怎么使用numpy實(shí)現(xiàn)LR算法”的學(xué)習(xí)就結(jié)束了，希望能夠解決大家的疑惑。理論與實(shí)踐的搭配能更好的幫助大家學(xué)習(xí)，快去試試吧！若想繼續(xù)學(xué)習(xí)更多相關(guān)知識(shí)，請(qǐng)繼續(xù)關(guān)注億速云網(wǎng)站，小編會(huì)繼續(xù)努力為大家?guī)砀鄬?shí)用的文章！