溫馨提示×

您好，登錄后才能下訂單哦！

密碼登錄×
登錄注冊(cè)×
其他方式登錄
點(diǎn)擊 登錄注冊(cè) 即表示同意《億速云用戶(hù)服務(wù)條款》

python實(shí)現(xiàn)機(jī)器學(xué)習(xí)之元線性回歸

發(fā)布時(shí)間：2020-09-03 18:55:49 來(lái)源：腳本之家 閱讀：145 作者：婉如 欄目：開(kāi)發(fā)技術(shù)

一、理論知識(shí)準(zhǔn)備

1.確定假設(shè)函數(shù)

如：y=2x+7
其中，（x，y）是一組數(shù)據(jù)，設(shè)共有m個(gè)

2.誤差cost

用平方誤差代價(jià)函數(shù)

python實(shí)現(xiàn)機(jī)器學(xué)習(xí)之元線性回歸

3.減小誤差（用梯度下降）

python實(shí)現(xiàn)機(jī)器學(xué)習(xí)之元線性回歸
python實(shí)現(xiàn)機(jī)器學(xué)習(xí)之元線性回歸

二、程序?qū)崿F(xiàn)步驟

1.初始化數(shù)據(jù)

x、y：樣本
learning rate：學(xué)習(xí)率
循環(huán)次數(shù)loopNum：梯度下降次數(shù)

2.梯度下降

循環(huán)（循環(huán)loopNum次）：
（1）算偏導(dǎo)（需要一個(gè)for循環(huán)遍歷所有數(shù)據(jù)）
（2）利用梯度下降數(shù)學(xué)式子

三、程序代碼

import numpy as np

def linearRegression(data_x,data_y,learningRate,loopNum):
  w,b=0,0

  #梯度下降
  for i in range(loopNum):
    w_derivative, b_derivative, cost = 0, 0, 0
    for j in range(len(data_x)):
      wxPlusb=w*data_x[j]+b
      w_derivative+=(wxPlusb-data_y[j])*data_x[j]
      b_derivative+=wxPlusb-data_y[j]
      cost+=(wxPlusb-data_y[j])*(wxPlusb-data_y[j])
    w_derivative=w_derivative/len(data_x)
    b_derivative=b_derivative/len(data_x)

    w = w - learningRate*w_derivative
    b = b - learningRate*b_derivative

    cost = cost/(2*len(data_x))
    if i%100==0:
      print(cost)
  print(w)
  print(b)

if __name__== "__main__": #_x:protected __x:private
  x=np.random.normal(0,10,100)
  noise=np.random.normal(0,0.05,100)
  y=2*x+7+noise
  linearRegression(x,y,0.01,5000)

四、輸出

1.輸出cost

python實(shí)現(xiàn)機(jī)器學(xué)習(xí)之元線性回歸 

可以看到，一開(kāi)始的誤差是很大的，然后減小了

python實(shí)現(xiàn)機(jī)器學(xué)習(xí)之元線性回歸 

最后幾次輸出的cost沒(méi)有變化，可以將訓(xùn)練的次數(shù)減小一點(diǎn)

2.訓(xùn)練完的w和b

python實(shí)現(xiàn)機(jī)器學(xué)習(xí)之元線性回歸 

和目標(biāo)w=2，b=7很接近

以上就是本文的全部?jī)?nèi)容，希望對(duì)大家的學(xué)習(xí)有所幫助，也希望大家多多支持億速云。

向AI問(wèn)一下細(xì)節(jié)

免責(zé)聲明：本站發(fā)布的內(nèi)容（圖片、視頻和文字）以原創(chuàng)、轉(zhuǎn)載和分享為主，文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如果涉及侵權(quán)請(qǐng)聯(lián)系站長(zhǎng)郵箱：is@yisu.com進(jìn)行舉報(bào)，并提供相關(guān)證據(jù)，一經(jīng)查實(shí)，將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI
助
手