處理數(shù)據(jù)缺失的結(jié)構(gòu)化解決辦法

數(shù)據(jù)缺失是數(shù)據(jù)科學(xué)家在處理數(shù)據(jù)時(shí)經(jīng)常遇到的問題，本文作者基于不同的情境提供了相應(yīng)的數(shù)據(jù)插補(bǔ)解決辦法。沒有完美的數(shù)據(jù)插補(bǔ)法，但總有一款更適合當(dāng)下情況。

我在數(shù)據(jù)清理與探索性分析中遇到的最常見問題之一就是處理缺失數(shù)據(jù)。首先我們需要明白的是，沒有任何方法能夠完美解決這個(gè)問題。不同問題有不同的數(shù)據(jù)插補(bǔ)方法 ——時(shí)間序列分析，機(jī)器學(xué)習(xí)，回歸模型等等，很難提供通用解決方案。在這篇文章中，我將試著總結(jié)最常用的方法，并尋找一個(gè)結(jié)構(gòu)化的解決方法。
插補(bǔ)數(shù)據(jù) vs 刪除數(shù)據(jù)

在討論數(shù)據(jù)插補(bǔ)方法之前，我們必須了解數(shù)據(jù)丟失的原因。
1 、 隨機(jī)丟失（ MAR ， Missing at Random ）：隨機(jī)丟失意味著數(shù)據(jù)丟失的概率與丟失的數(shù)據(jù)本身無關(guān)，而僅與部分已觀測(cè)到的數(shù)據(jù)有關(guān)。
2 、 完全隨機(jī)丟失（ MCAR ， Missing Completely at Random ）：數(shù)據(jù)丟失的概率與其假設(shè)值以及其他變量值都完全無關(guān)。
3 、 非隨機(jī)丟失（ MNAR ， Missing not at Random ）：有兩種可能的情況。缺失值取決于其假設(shè)值（例如，高收入人群通常不希望在調(diào)查中透露他們的收入）；或者，缺失值取決于其他變量值（假設(shè)女性通常不想透露她們的年齡，則這里年齡變量缺失值受性別變量的影響）。

在前兩種情況下可以根據(jù)其出現(xiàn)情況刪除缺失值的數(shù)據(jù)，而在第三種情況下，刪除包含缺失值的數(shù)據(jù)可能會(huì)導(dǎo)致模型出現(xiàn)偏差。因此我們需要對(duì)刪除數(shù)據(jù)非常謹(jǐn)慎。請(qǐng)注意，插補(bǔ)數(shù)據(jù)并不一定能提供更好的結(jié)果。

刪除

列表刪除

按列表刪除（完整案例分析）會(huì)刪除一行觀測(cè)值，只要其包含至少一個(gè)缺失數(shù)據(jù)。你可能只需要直接刪除這些觀測(cè)值，分析就會(huì)很好做，尤其是當(dāng)缺失數(shù)據(jù)只占總數(shù)據(jù)很小一部分的時(shí)候。然而在大多數(shù)情況下，這種刪除方法并不好用。因?yàn)橥耆S機(jī)缺失（ MCAR ）的假設(shè)通常很難被滿足。因此本刪除方法會(huì)造成有偏差的參數(shù)與估計(jì)。

成對(duì)刪除

在重要變量存在的情況下，成對(duì)刪除只會(huì)刪除相對(duì)不重要的變量行。這樣可以盡可能保證充足的數(shù)據(jù)。該方法的優(yōu)勢(shì)在于它能夠幫助增強(qiáng)分析效果，但是它也有許多不足。它假設(shè)缺失數(shù)據(jù)服從完全隨機(jī)丟失（ MCAR ）。如果你使用此方法，最終模型的不同部分就會(huì)得到不同數(shù)量的觀測(cè)值，從而使得模型解釋非常困難。

觀測(cè)行 3 與 4 將被用于計(jì)算 ageNa 與 DV1 的協(xié)方差；觀測(cè)行 2 、 3 與 4 將被用于計(jì)算 DV1 與 DV2 的協(xié)方差。

刪除變量

在我看來，保留數(shù)據(jù)總是比拋棄數(shù)據(jù)更好。有時(shí)，如果超過 60 ％的觀測(cè)數(shù)據(jù)缺失，直接刪除該變量也可以，但前提是該變量無關(guān)緊要。話雖如此，插補(bǔ)數(shù)據(jù)總是比直接丟棄變量好一些。