怎么在Python中執(zhí)行套索和嶺回歸

怎么在Python中執(zhí)行套索和嶺回歸，很多新手對(duì)此不是很清楚，為了幫助大家解決這個(gè)難題，下面小編將為大家詳細(xì)講解，有這方面需求的人可以來(lái)學(xué)習(xí)下，希望你能有所收獲。

導(dǎo)入庫(kù)

與任何項(xiàng)目一樣，導(dǎo)入常用的庫(kù)，這將有助于執(zhí)行基本的數(shù)據(jù)操作和繪圖。

現(xiàn)在可以開(kāi)始探索性數(shù)據(jù)分析。

探索性數(shù)據(jù)分析

首先導(dǎo)入數(shù)據(jù)集并查看前五行：

你應(yīng)該看到：

請(qǐng)注意，Unnamed：0 列無(wú)用。把它拿出來(lái)。

現(xiàn)在數(shù)據(jù)集如下所示：

如您所見(jiàn)，只有三種廣告媒介，銷(xiāo)售是目標(biāo)變量。

看看每個(gè)變量如何通過(guò)制作散點(diǎn)圖來(lái)影響銷(xiāo)售。首先構(gòu)建一個(gè)輔助函數(shù)來(lái)制作散點(diǎn)圖：

現(xiàn)在可以為每個(gè)功能生成三個(gè)不同的圖。

得到以下內(nèi)容：

關(guān)于電視廣告上花錢(qián)的銷(xiāo)售

關(guān)于花在廣播廣告上的錢(qián)的銷(xiāo)售

關(guān)于報(bào)紙廣告花費(fèi)的銷(xiāo)售額

正如您所看到的，電視和廣播廣告似乎是銷(xiāo)售的良好預(yù)測(cè)因素，而銷(xiāo)售和報(bào)紙廣告之間似乎沒(méi)有相關(guān)性。

幸運(yùn)的是，數(shù)據(jù)集不需要進(jìn)一步處理，因此準(zhǔn)備立即進(jìn)行建模！

模型

多元線性回歸 - 最小二乘擬合

在完成之前，先來(lái)看看代碼的樣子。

首先，導(dǎo)入LinearRegression和cross_val_score 對(duì)象。第一個(gè)將允許擬合線性模型，而第二個(gè)對(duì)象將執(zhí)行k倍交叉驗(yàn)證。

然后定義特征和目標(biāo)變量。

該cross_val_score將返回MSE的陣列為每個(gè)交叉驗(yàn)證步驟。在例子中有五個(gè)。因此，采用MSE的意思并打印出來(lái)。應(yīng)該得到-3.0729的負(fù)MSE。

現(xiàn)在，看看嶺回歸或套索是否會(huì)更好。

嶺回歸

對(duì)于嶺回歸，引入了GridSearchCV。這將允許使用一系列不同的正則化參數(shù)自動(dòng)執(zhí)行5次交叉驗(yàn)證，以便找到alpha 的最佳值。

代碼如下所示：

然后，可以通過(guò)以下方式找到最佳參數(shù)和最佳MSE：

應(yīng)該看到alpha的最佳值為20，負(fù)MSE為-3.07267。這是基本多元線性回歸的略微改進(jìn)。

套索

對(duì)于套索，遵循與嶺回歸非常相似的過(guò)程：

在這種情況下，alpha的最佳值為1，負(fù)MSE為-3.0414，這是所有三個(gè)模型的最佳分?jǐn)?shù)！

現(xiàn)在知道如何在Python中使用套索和嶺回歸。在這種情況下已經(jīng)看到套索是最合適的方法，正則化值為1。

看完上述內(nèi)容是否對(duì)您有幫助呢？如果還想對(duì)相關(guān)知識(shí)有進(jìn)一步的了解或閱讀更多相關(guān)文章，請(qǐng)關(guān)注億速云行業(yè)資訊頻道，感謝您對(duì)億速云的支持。