“房間里的大象”暴露AI巨坑，AI視覺系統(tǒng)被夸噓過頭了？

http://blog.itpub.net/31545819/viewspace-2285058/

眾所周知，人工智能雖說是一門新技術(shù)，但已經(jīng)有一段歷史了，如今沸騰起來的人工智能也只不過是經(jīng)歷了數(shù)次寒冬碾壓出來的黃金期。

但是近期關(guān)于深度學(xué)習(xí)掀起的又一波“AI寒冬”又一次將人工智能推向了輿論口波，一項旨在解決“房間里大象”的新研究推動了這次AI的負面炒作。深度學(xué)習(xí)系統(tǒng)真的存在嚴(yán)重缺陷嗎？我們真的完全走錯了路嗎？

關(guān)于卷積神經(jīng)網(wǎng)的最新研究主要集中在目標(biāo)跟蹤器和檢測器上，它們是更通用的卷積網(wǎng)絡(luò)的專用版。與將照片分類為貓和狗的方法不同，目標(biāo)檢測器需要對整個圖像進行處理，排除掉那些無關(guān)緊要的子區(qū)域，將檢測到的物體用矩形框框起來。

所有神經(jīng)網(wǎng)絡(luò)目前尚未解決的一個大問題是對抗性圖像的存在。如果一個神經(jīng)網(wǎng)正確的將照片分類為貓，那么，它就可能在極微的程度上改變圖像中的像素，使得圖像被分類成其他東西，例如狗，但這樣的變化非常的小，人們幾乎察覺不到。也就是說，敵對的形象看起來像一只貓，但它卻被分類成狗或者其他東西。這是一個很腦洞的想法，但我們可以把它進一步推進，創(chuàng)建所謂的通用對抗圖像，這可能會欺騙一系列的神經(jīng)網(wǎng)絡(luò)，忽視其確切的架構(gòu)或訓(xùn)練。

上個月，來自約克大學(xué)和多倫多大學(xué)的兩名研究人員合作發(fā)表了一篇論文《   The Elephant in the Room   》（房間里的大象），在學(xué)界引起巨大反響，該論文揭露了利用神經(jīng)網(wǎng)絡(luò)進行物體檢測的缺陷。他們將大象放在房間里創(chuàng)造了另一種對抗性形象。利用一個經(jīng)過訓(xùn)練的目標(biāo)檢測器，顯示出一個標(biāo)簽正確的場景。然后把一個意想不到的物體放到場景中（一個大象），結(jié)果發(fā)現(xiàn)，目標(biāo)檢測器不僅沒有正確的顯示出大象，而且對目標(biāo)物體的分類也是不正確的。

目標(biāo)檢測器沒有檢測出大象，個人而言，我還沒有克服這樣一個事實。

是的，房間里有一頭大象，目標(biāo)檢測器正在做人為的事情，而不是探討它，并且杯子也沒有被檢測出來。

但這足夠可以論證當(dāng)前的人工智能視覺系統(tǒng)存在巨大缺陷。

引用Quanta最近的一篇文章：

“這是一項聰明而重要的研究，它提醒我們‘深度學(xué)習(xí)’并不深?！奔~約大學(xué)神經(jīng)學(xué)家Gary Marcus說到。

的確，深度學(xué)習(xí)并沒有那么深刻，但這并不能成為說服大多數(shù)讀者的理由。由于對人工智能的高估，人們對這項研究的反應(yīng)是錯誤的，尤其是深度學(xué)習(xí)。我們還沒有實現(xiàn)人工大腦，我們的深層神經(jīng)網(wǎng)絡(luò)與大腦相比還甚是微小。但是，我們不得不肯定它們在數(shù)據(jù)分析方面的能力，即便這個基層發(fā)生了變化，我們還是需要研究。

與大腦相比，深度學(xué)習(xí)并不深。這項研究相當(dāng)于給眼睛和視神經(jīng)看了一些圖片，然后驚訝地發(fā)現(xiàn)它竟然看不出來。

我們的神經(jīng)網(wǎng)絡(luò)是未來人工智能的基石。深刻的神經(jīng)網(wǎng)絡(luò)對世界沒有任何意義。它沒有內(nèi)部的語言表達，使它判斷大象不在那里，因此它也不會再看大象第二眼。

目前我們的深度神經(jīng)網(wǎng)絡(luò)只是一個統(tǒng)計分析器，如果你給它們一個統(tǒng)計異常，它們就會弄錯。這并不是引起嚴(yán)厲批評的理由，把它當(dāng)成一個3歲的孩子，它已經(jīng)做的很好了。這不是一個人工的孩子，而是一個真正的孩子，是一小塊孤立的“人造大腦”，里面有少量的模擬神經(jīng)。

盡管如此，這項研究還是提出了一些非?，F(xiàn)實的問題。畢竟，從統(tǒng)計學(xué)的角度看，一頭大象被分類錯誤并不奇怪，這只是統(tǒng)計異常。令大家意想不到的是，大象的出現(xiàn)能夠?qū)е聢D像其他區(qū)域的錯誤。

為什么會有互擾？

這讓我們回到了另一種對抗性的形象。似乎對抗性圖像不屬于網(wǎng)絡(luò)訓(xùn)練集的統(tǒng)計分布，因為它們跟自然圖像不同。如果你發(fā)現(xiàn)被新添加到圖形中的物體被錯誤分類，它們通常是一種較規(guī)則的波段或常規(guī)噪音，完全不同于自然圖像中發(fā)生的事物。這種噪聲將圖像置于網(wǎng)絡(luò)訓(xùn)練過的圖像集之外，因此錯誤分類就屬于情理之中了。

這如何適用于房間里的大象？

同樣的論點。大象被切割并粘貼到圖像中。編輯邊緣和背景變化的存在可能將圖像從自然圖像集移動到操作圖像集中，因此遇到的問題都是一樣的。

該論文的作者推測這確實是問題的一部分，但他們也提出了其他的可能性。尤其是，您可能認為，將大象放置在與錯誤分類的對象有一定距離的地方不會造成非位置性的問題，但這一預(yù)期沒有考慮到這樣一個事實，即目前神經(jīng)網(wǎng)絡(luò)沒有適應(yīng)性，它們必須經(jīng)過訓(xùn)練來檢測圖像中不同大小的物體，這就引入了非局部效應(yīng)。

這項研究并沒有強調(diào)深度學(xué)習(xí)網(wǎng)絡(luò)夸大他們能力的事實。它強調(diào)的是，如果不了解正在發(fā)生的事情，人們就會誤判是目標(biāo)檢測器異常的問題。我們需要繼續(xù)研究對抗性輸入到底是如何揭示神經(jīng)網(wǎng)絡(luò)的實際工作原理的，真正的人工智能不會只涉及一個神經(jīng)網(wǎng)絡(luò)，不管它有多深。