手把手 | 神經(jīng)網(wǎng)絡(luò)的菜鳥(niǎo)入門(mén)秘籍

大數(shù)據(jù)文摘出品

編譯：李雷、笪潔瓊、云舟

在過(guò)去幾年中，如果你打開(kāi)過(guò)瀏覽器，那么你肯定看到過(guò)幾百回“神經(jīng)網(wǎng)絡(luò)”這個(gè)詞。

在這篇短文中，我將為你初步介紹這一領(lǐng)域和神經(jīng)網(wǎng)絡(luò)本身的背景信息。接下來(lái)的5分鐘可能不會(huì)讓你迅速成為這個(gè)領(lǐng)域的世界級(jí)專(zhuān)家，但讓你經(jīng)歷一個(gè)意義非凡的入門(mén)階段卻是很簡(jiǎn)單的。另外，你還將學(xué)習(xí)到一些流行術(shù)語(yǔ)（尤其是按文后的清單做進(jìn)一步閱讀），這可以成為你茶余飯后的談資。

要理解神經(jīng)網(wǎng)絡(luò)，我們首先需要懂機(jī)器學(xué)習(xí)。而為了理解機(jī)器學(xué)習(xí)，我們就得先談?wù)勅祟?lèi)學(xué)習(xí)，或者“經(jīng)典編程”。

在經(jīng)典編程中，我，也就是開(kāi)發(fā)人員，需要弄明白我正在試圖解決的問(wèn)題的各個(gè)方面，并確切地知道怎樣找到解決方案。

例如，假設(shè)我希望我的程序知道正方形和圓形之間的區(qū)別。解決這個(gè)問(wèn)題的其中一種方法是編寫(xiě)一個(gè)可以檢測(cè)邊角的程序。如果我的程序檢測(cè)到4個(gè)角，那么這個(gè)形狀是一個(gè)正方形，如果它檢測(cè)不到任何角，那么這個(gè)形狀就是一個(gè)圓。

那么機(jī)器學(xué)習(xí)又是啥？一般來(lái)說(shuō)，機(jī)器學(xué)習(xí)=從例子中學(xué)習(xí)。

在機(jī)器學(xué)習(xí)中，當(dāng)面對(duì)上文區(qū)分圓和正方形的問(wèn)題時(shí)，我們將設(shè)計(jì)一個(gè)學(xué)習(xí)系統(tǒng)，將許多形狀及其類(lèi)別（正方形或圓形）的例子作為輸入，從而希望機(jī)器能夠自己學(xué)習(xí)可以用來(lái)區(qū)分形狀的特征。

然后，一旦機(jī)器學(xué)會(huì)了所有的特征，我們就可以給它一個(gè)以前沒(méi)出現(xiàn)過(guò)的圖像，并且希望它能夠正確地對(duì)其進(jìn)行分類(lèi)。

在神經(jīng)網(wǎng)絡(luò)的背景下，神經(jīng)元是一個(gè)奇妙的名詞，“聰明”的人不愿用函數(shù)（function）這個(gè)樸素名字。當(dāng)然，在數(shù)學(xué)和計(jì)算機(jī)科學(xué)的背景下，函數(shù)（function）也是一個(gè)奇妙的名稱(chēng)，它接收輸入，實(shí)現(xiàn)處理邏輯并輸出結(jié)果。

更重要的是，神經(jīng)元可以被認(rèn)為是一個(gè)學(xué)習(xí)單元。

因此，我們需要在機(jī)器學(xué)習(xí)的背景下理解什么是學(xué)習(xí)單元。之后我們就可以理解神經(jīng)網(wǎng)絡(luò)最基本的構(gòu)造，即神經(jīng)元。

為了闡述這個(gè)問(wèn)題，假設(shè)我試圖理解博客文章中單詞數(shù)量與人們實(shí)際從該帖子中讀到的單詞數(shù)量之間的關(guān)系。請(qǐng)注意 - 我們是在機(jī)器學(xué)習(xí)領(lǐng)域做這件事，因此我們要從例子中學(xué)習(xí)。

所以我在博客文章中收集了許多單詞數(shù)統(tǒng)計(jì)的實(shí)例，用x表示，以及人們?cè)谶@些帖子中實(shí)際閱讀了多少單詞，用y表示，我假設(shè)它們之間存在一定關(guān)系，用f表示。

這件事情的神奇之處在于，我只需要告訴機(jī)器（程序）我期望看到的關(guān)系（例如直線）大概是怎樣的，機(jī)器就會(huì)明白它需要繪制的實(shí)際圖形。

下一次，我想要寫(xiě)一篇有x個(gè)單詞的博客文章，機(jī)器可以運(yùn)用它發(fā)現(xiàn)的關(guān)系f來(lái)告訴我，我可以預(yù)期人們實(shí)際閱讀的單詞數(shù)量，y。

好，如果一個(gè)神經(jīng)元是一個(gè)函數(shù)，那么神經(jīng)網(wǎng)絡(luò)就是一個(gè)函數(shù)網(wǎng)絡(luò)！這意味著我們有許多（很多）這樣的函數(shù)和這樣的學(xué)習(xí)單元，它們的所有輸入和輸出是相互交織的，就是說(shuō)他們互為輸入輸出。

作為這個(gè)網(wǎng)絡(luò)的設(shè)計(jì)者，我需要回答以下問(wèn)題：

• 如何為輸入和輸出建模？（例如，如果輸入是一些文本，我可以用字母建模嗎？那數(shù)字和向量呢？...。）

• 每個(gè)神經(jīng)元有哪些功能？（它們是線性的嗎？還是指數(shù)型的？...）

• 網(wǎng)絡(luò)的架構(gòu)是什么？（也就是說(shuō)，哪個(gè)函數(shù)的輸出是哪個(gè)函數(shù)的輸入？）

• 我可以用哪些流行術(shù)語(yǔ)描述我的網(wǎng)絡(luò)？

一旦我回答了這些問(wèn)題，我就可以向我的網(wǎng)絡(luò)“展示”許多正確的輸入輸出的例子，這樣當(dāng)我“展示”給它一個(gè)它以前從未見(jiàn)過(guò)的新示例輸入時(shí)，它就會(huì)知道正確的輸出。

你也可以訪問(wèn)神經(jīng)網(wǎng)絡(luò)游樂(lè)場(chǎng)這個(gè)超級(jí)酷的網(wǎng)站，從而更好地理解這個(gè)過(guò)程意味著什么。

神經(jīng)網(wǎng)絡(luò)游樂(lè)場(chǎng)：

https://playground.tensorflow.org/

由于這個(gè)領(lǐng)域?qū)嶋H上在不斷膨脹，每分鐘出現(xiàn)的新內(nèi)容的數(shù)量對(duì)任何人來(lái)說(shuō)都是不可能跟蹤的。（不知道會(huì)不會(huì)有朝一日我們能夠建立一個(gè)能夠追蹤人類(lèi)在AI領(lǐng)域進(jìn)步的AI）

進(jìn)入這個(gè)領(lǐng)域，首先要知道的是沒(méi)有人知道一切。所以你不用擔(dān)心自己不如他人，只要保持好奇心就好了。:)

因此，推薦一些比較優(yōu)秀的資源：

Gal Yona，在這個(gè)領(lǐng)域非常棒的博主之一。她的帖子包括從核心技術(shù)的解釋到半哲學(xué)的評(píng)論。

核心技術(shù)的解釋?zhuān)?/span>

https://towardsdatascience.com/do-gans-really-model-the-true-data-distribution-or-are-they-just-cleverly-fooling-us-d08df69f25eb

到半哲學(xué)的評(píng)論：

https://towardsdatascience.com/the-tale-of-1001-black-boxes-62d12b5886aa

Siraj Raval 是一個(gè)擁有大量視頻的油管博主（youtuber），從理論解釋到動(dòng)手教程都非常有趣！

理論解釋?zhuān)?/span>

https://www.youtube.com/watch?v=xRJCOz3AfYY

動(dòng)手教程：

https://www.youtube.com/watch?v=pY9EwZ02sXU

Christopher Olah，一位充滿激情和洞察力的研究員，擁有一個(gè)超炫的博客，其中包括從基本概念到深度學(xué)習(xí)的帖子。

從基本概念：

http://colah.github.io/posts/2015-09-Visual-Information/

深度學(xué)習(xí)：

https://distill.pub/2017/feature-visualization/

《走向數(shù)據(jù)科學(xué)》是這個(gè)領(lǐng)域最大的中型出版物，無(wú)論你有幾分鐘或幾小時(shí)的時(shí)間，都可以去他們的主頁(yè)開(kāi)始探索一切，從實(shí)用工具到深度算法應(yīng)有盡有。

走向數(shù)據(jù)科學(xué)：

https://towardsdatascience.com/

相關(guān)報(bào)道：

https://medium.freecodecamp.org/neural-networks-for-dummies-a-quick-intro-to-this-fascinating-field-795b1705104a