Sklearn廣義線性模型實例分析

這篇文章主要介紹了Sklearn廣義線性模型實例分析的相關知識，內容詳細易懂，操作簡單快捷，具有一定借鑒價值，相信大家閱讀完這篇Sklearn廣義線性模型實例分析文章都會有所收獲，下面我們一起來看看吧。

廣義線性模型：主要講述一些用于回歸的方法，其中目標值y是輸入變量x的線性組合。數(shù)據概念表示為：如果y(w,x)=w0+w1x1+...+wpxp,在整個模塊中，我們定義向量w=(w1,...,wp)作為coef_，定義w0作為intercept_。

1.1.1.普通最小二乘法
LinearRegression擬合一個帶有系數(shù)w=(w1,...,wp)的線性模型，使得數(shù)據集實際觀測數(shù)據和預測數(shù)據（估計值）之間的殘差平方和最小。其數(shù)學表達式為:

LinearRegression會調用fit方法來擬合數(shù)組 X,y,并且將線性模型的系數(shù)w存儲在其成員變量coef_中:

>>> from sklearn import linear_model
>>> reg = linear_model.LinearRegression()
>>> reg.fit ([[0, 0], [1, 1], [2, 2]], [0, 1, 2])
LinearRegression(copy_X=True, fit_intercept=True, n_jobs=1, normalize=False)
>>> reg.coef_
array([ 0.5,  0.5])

然而，對于普通最小二乘的系數(shù)估計問題，其依賴于模型各項的相互獨立性。當各項是相關的，且設計矩陣X的各列近似線性相關，那么，設計矩陣會趨向于奇異矩陣，這種特性導致最小二乘估計對于隨機誤差非常敏感，可能產生很大的方差。例如，在沒有實驗設計的情況下收集到的數(shù)據，這種多重共線性（multicollinearity）的情況可能真的會出現(xiàn)。

線性回歸示例：

本示例僅使用糖尿病數(shù)據集的第一個特征，以說明此回歸技術的二維圖。 可以在圖中看到直線，該直線顯示了線性回歸如何嘗試繪制一條直線，該直線將最大程度地減少數(shù)據集中觀察到的響應與線性近似預測的響應之間的殘差平方和。還計算輸出了系數(shù)，殘差平方和和方差得分。

import matplotlib.pyplot as pltimport numpy as npfrom sklearn import datasets, linear_modelfrom sklearn.metrics import mean_squared_error, r2_scoreimport pandas as pd#加載數(shù)據diabetes = datasets.load_diabetes()
# 取一個特征列維度diabetes_X = diabetes.data[:, np.newaxis, 2]#np.newaxis將矩陣轉換成一列# 劃分訓練和測試數(shù)據集diabetes_X_train = diabetes_X[:-20]diabetes_X_test = diabetes_X[-20:]
# 劃分訓練和測試目標集diabetes_y_train = diabetes.target[:-20]diabetes_y_test = diabetes.target[-20:]
# 創(chuàng)建線性回歸模型regr = linear_model.LinearRegression()
# 使用數(shù)據集訓練模型regr.fit(diabetes_X_train, diabetes_y_train)
# 使用測試集訓練函數(shù)diabetes_y_pred = regr.predict(diabetes_X_test)
# 系數(shù)print('Coefficients: \n', regr.coef_)# 平均誤差print("Mean squared error: %.2f"% mean_squared_error(diabetes_y_test, diabetes_y_pred))# 變量預測分數(shù)print('Variance score: %.2f' % r2_score(diabetes_y_test, diabetes_y_pred))
# 可視化輸出plt.scatter(diabetes_X_test, diabetes_y_test,  color='black')plt.plot(diabetes_X_test, diabetes_y_pred, color='red', linewidth=3)
#橫縱坐標plt.xticks(())plt.yticks(())
plt.show()

輸出：

Coefficients:
 [938.23786125]
Mean squared error: 2548.07
Variance score: 0.47

關于“Sklearn廣義線性模型實例分析”這篇文章的內容就介紹到這里，感謝各位的閱讀！相信大家對“Sklearn廣義線性模型實例分析”知識都有一定的了解，大家如果還想學習更多知識，歡迎關注億速云行業(yè)資訊頻道。