人類擁有智慧和愚蠢兩面，AI要類人，愚蠢是否也必不可少？

像人一樣，似乎是 AI 發(fā)展的最終目標。

然而眾所周知，人類有智慧和愚蠢兩面， AI 要類人，是否也需要具備這兩面性呢？

從一開始為測試 AI 是否能像人一樣而生的圖靈測試來看，人類在完成計算等任務時，算出來的答案可能存在一定的錯誤率并且需要花一定的時間來完成計算，當能立馬說出正確答案的 AI 也模仿人類這樣的計算過程，人類和 AI 就無從判別，這便是 AI 模仿人類愚蠢，從而實現(xiàn)“類人”的一個方面。

從人類自身的成長和進化而言，從小時候蹣跚學步被自己絆倒開始，人類一開始犯的錯誤或者說愚蠢，會為未來的經(jīng)驗和智慧鋪路。因而，看似一無是處的“愚蠢”，可能會為 AI 變得更加智能提供另外一種可能性。

本文便聚焦 AI 是否也需要向人類一樣擁有愚蠢這一屬性進行了探索，相信會給大家一些思考和啟發(fā)。

一. 愚蠢 or 智慧

我們通常似乎都知道評價一個人很聰明的含義。反之，當給一個人貼上“愚蠢”的標簽時，問題隨之而來，這究竟意味著什么？例如，愚蠢是否意味著以零和的方式缺乏智慧，或者愚蠢是否占據(jù)了自己的空間，并作為一個平行的等同物與智慧為鄰？

針對這一沉重的問題，我們不妨來做一個思考實驗。假設我們有一個裝滿智慧的桶，我們把智力當成是有形的東西，可以把它倒進手邊的一個桶里，也可能把它從桶里倒出來。讓裝滿智慧的水桶倒在地上，還剩下什么？

一個答案是，桶現(xiàn)在已經(jīng)完全空了，桶里什么都沒有了，也就是說，水桶變得空空如也。另一個答案是，水桶里的智慧被清空，便剩下一個由愚蠢組成的殘骸。

換句話說，一旦你喪失了所謂的聰明，剩下的就是愚蠢。

這是一個看似深奧的討論，但稍后你會看到，這一觀點對許多重要的事物都有相當深刻的影響，尤其是對于人工智能的發(fā)展和崛起而言。

智慧可以在沒有愚蠢的情況下存在嗎？或者從實際意義上講，如果智慧與愚蠢并存，又總是必須存在一定數(shù)量的愚蠢嗎？有人斷言，智慧和愚蠢是禪宗般的陰陽。 從這個角度講，除非你也有一種可以作為衡量標準的愚蠢的表象，否則將無法洞悉智慧的本質(zhì)。

據(jù)說隨著時間的流逝，人類變得越來越聰明，從而降低了他們的愚蠢水平。你可能認為智慧和愚蠢在玩一個零和游戲，也就是說，當你的智慧上升的同時，你的愚蠢水平正在下降（同樣，如果你的愚蠢上升，這意味著你的智慧下降）。人類能達到100%的聰明和0%的愚蠢嗎？還是無論我們多么努力地去變得100%聰明，我們注定總會有一些愚蠢？

回到桶的比喻，有些人會說，人永遠不會出現(xiàn)徹底而又完全聰明，并且完全擺脫了愚蠢的情況?？倳幸恍┯薮涝谀侵煌袄铩罢笪Ｗ?。如果你聰明伶俐并且奮發(fā)努力，盡管桶里仍然還剩一些愚蠢，你也許可以縮小自己的的愚蠢度。

二. 愚蠢對智慧有利還是有害？

你可能會想當然地認為，任何愚蠢都是壞事，因此我們必須一直努力把它“關”起來，或者避免它的出現(xiàn)。但我們需要問的是，那種把愚蠢歸為“壞”范疇、把智力歸為“好”范疇的簡單觀點，是否有可能遺漏更復雜的東西？你可能會爭辯說，有時候在有限的范圍內(nèi)變蠢，可能會為提升智慧提供一種途徑。

當你還是個孩子的時候，假設你愚蠢地被自己的腳絆倒了，這樣做之后，你就會意識到之所以被絆倒是因為你沒有小心地抬起腳。從那時起，你就會開始更加注意如何走路，從而在走路時變得聰明起來。也許在晚年，當你走在一個羊腸小道上時，能夠設法避免自己從路邊摔落，部分原因便是愚蠢引發(fā)的早期人生教訓，已成為你智慧的一部分。

當然，愚蠢也會給我們招來麻煩。盡管你從愚蠢中學會了走路時的小心謹慎，但如果有一天你打算在大峽谷的邊緣昂首闊步，你會摔入深淵。在懸崖邊上這樣走路是明智之舉嗎？顯然不是。

因此，我們要注意到，愚蠢可以是朋友，也可以是敵人，而在任何特定的情形和任何特定的時刻下，究竟是哪一個，取決于智慧部分。你可能會想象到，智慧和愚蠢之間正上演著一場永恒的斗爭。

另一方面，你可能同樣會想到，聰明和愚蠢雙方是伙伴，彼此拉扯在一起，因而這不是一場特殊的戰(zhàn)斗，因為這更像是圍繞哪一方占上風以及彼此如何協(xié)調(diào)和互相幫助的一場微妙的舞蹈或者說博弈。

三. 該認真思考下人工愚蠢了

我們每天都聽到關于人工智能的來臨如何改變我們的生活的言論。人工智能技術正在載入我們的智能手機、冰箱、汽車等等。如果我們打算把人工智能融入我們使用的物品中，那就引出了一個問題：我們是否需要考慮“陰中有陽”，特別是我們是否需要充分了解人工愚蠢？

大多數(shù)人聽到或看到“人工愚蠢”這個詞時都會忍俊不禁，他們認為提到這樣的事情一定是某位知情者的玩笑。誠然，人造和愚蠢這兩個詞的結合，似乎本身就很愚蠢。

但是，通過回顧之前智慧和愚蠢在人類中所起作用的討論，你可以重塑自己的觀點，并可能發(fā)現(xiàn)，每當你進行關于智慧的討論時，不可避免地也需要考慮愚蠢的作用。

有些人建議我們應該使用另一種表達人工愚蠢的方式，來減少大家的竊笑，浮夸的詞組包括人工智障、人工人性、人工遲鈍等等，但這些詞都還沒有深入我心。請容忍我暫且使用“人工愚蠢”的措辭，并且堅信討論“人工愚蠢”其實并不愚蠢。

確實，你可以提出討論人工愚蠢的行為是愚蠢的做法，因為你不愿意或不接受這樣一種認識，即愚蠢存在于現(xiàn)實世界中，因此存在于我們試圖重現(xiàn)智能的計算機系統(tǒng)的虛擬世界中，如此一來你會忽略或忽視原本作為“等式另一半”的愚蠢。

簡而言之，有人說，真正的人工智能需要將我們現(xiàn)在所認為的“聰明”或者說良好人工智能與人工愚蠢（毫無掩蓋）進行結合，而這種結合必須以聰明的方式實現(xiàn)。

有觀點認為，通過將人工愚蠢納入人工智能中，你將從根本上無可挽回地給人工智能系統(tǒng)引入了愚蠢，因此可能最終會使AI變得愚蠢。事實上，我們可以通過駁斥此觀點來應對許多人對這個概念的直接下意識反應。

當然，如果你采用愚蠢的方式引入愚蠢，則很有可能有害于 AI 系統(tǒng)并使它變得愚蠢。另一方面，如果了解人類的運作方式，在深思熟慮的情況下將愚蠢行為引入，最終則有可能會幫助AI提升智慧（想想兒時絆到自己腳摔倒的故事）。

迄今為止AI還遠沒有達到人類的智能水平，也許實現(xiàn)真正和完整的人工智能的唯一方法，就是將人工愚蠢融入人工智能；因此，一旦我們與人工愚蠢保持距離或?qū)⑵湟曌鳁墐?，我們會身陷囹圄，像人類一樣智能?AI 將遙不可及。也就是說，如果把人工愚蠢排除在我們的思維之外，我們可能會阻止AI到達巔峰。這就像是一記重拳并且如此反直覺，以至于常常會阻礙人類往這個方向發(fā)展 AI 。

然而現(xiàn)實是，越來越多的跡象表明，揭示和利用人工愚蠢（或任何它應該被稱作的稱呼）的重要性， 對 AI 的發(fā)展大有裨益。

我斷定，真正的無人駕駛汽車的誕生，可能就涉及到將人工愚蠢納入到系統(tǒng)之中。這是不是很令人震驚？或許如此。下面我們不妨來剖析一下這件事。

四. 利用人工愚蠢獲益

當談到真正的自動駕駛汽車時，我將重點關注L4和L5級的自動駕駛汽車。這兩個級別的自動駕駛汽車，由人工智能系統(tǒng)自動駕駛，沒有必要并且通常不配備人類司機。人工智能負責所有的駕駛操作，所有人類乘坐者都為乘客。

關于人工愚蠢的話題，有必要快速回顧一下術語產(chǎn)生的歷史。在20世紀50年代，著名的數(shù)學家、計算機科學先驅(qū)艾倫·圖靈提出了眾所周知的AI圖靈測試。

簡而言之，圖靈測試就是：讓你跟一個搭載人工智能的計算機系統(tǒng)進行交互，并同時與另一個人交互，而你事先沒有被告知哪個是AI，哪個是人類（假設它們都隱藏在視線之外），要求你通過與對方對話，來判定哪一個是AI，哪一個是人類。如果你無法區(qū)分這兩個參與者，就可以宣布 AI 通過了測試。從這個意義上講，AI無法從人類參與者被辨別出來，并且在智能交互中必須被平等對待。

其實最初的圖靈測試有一個急轉(zhuǎn)彎。如果提問者很 “狡猾”，要求這兩個參與者將圓周率計算到千分位數(shù)。想必，AI會在一眨眼的工夫里十分出色地、輕而易舉地告訴你答案，而且非常精確和完全正確。但是人類很難做到這一點，如果用紙和鉛筆費勁地計算，則要花相當長的時間才能回答這個問題，并且最終很可能答案錯誤。

圖靈意識到了這一點，他認為通過提出這樣的算術問題，基本上可以揭開人工智能的神秘面紗。緊接著他又采取了另一舉措，有人認為這一步打開了潘多拉盒子，并暗示AI可能會故意錯誤地回答算術問題。簡言之，AI可以試圖愚弄提問者，表現(xiàn)得像人類一樣回答問題，比如故意給出錯誤的答案，以及耗費與人類手動計算大致相同的時間。 

勒布納獎（ Loebner Prize）設立于20世紀90年代初，這是一項類似于圖靈測試的競賽，會給予獲獎者豐厚的現(xiàn)金獎勵。在這項競賽中，人工智能系統(tǒng)通常會被加入類似人為的錯誤，以蒙騙提問者將AI 判斷為人類。但這背后引發(fā)了爭議，在此不做過多討論。1991年，《經(jīng)濟學人》刊登了一篇有關該競賽的經(jīng)典文章。再次具有諷刺意味的是，引入愚蠢實際上是為了描繪某種事物是聰明的。這個簡短的歷史經(jīng)驗為此次討論的下一要素做好了鋪墊。 

讓我們將人工愚蠢的話題歸結為兩個主要方面或兩種定義：

1) 人工愚蠢是有目的地將類人的愚蠢融入到人工智能系統(tǒng)中，這樣做是使AI看起來更像人類，目的不在于提高AI本身，而是為了塑造人類對AI的感知，使其看起來更智能。

2) 人工愚蠢是對人類無數(shù)缺點的承認，這種“愚蠢”可能以一種聯(lián)合的方式融入AI或與AI齊頭并進，如果處理得當可能會改善AI性能。

關于第一個定義，我想澄清一個常見的誤解，其涉及的假設有些瑕疵，即計算機可能會故意錯誤地計算某些問題。有些人震驚卻又不屑地尖叫著說，可能存在令計算機蓄意尋求錯誤計算的暗示，例如以欠缺準確性的方法計算出圓周率！其實這個定義并不一定意味著這一點。這大概是因為計算機可能會將圓周率正確地計算到千分之一位，然后選擇微調(diào)一些數(shù)字，再來回答調(diào)整后記錄下來的答案，并在眨眼間完成，然后等待與人類手動計算耗費的相同時間量后顯示結果。如此一來，計算機內(nèi)部其實已經(jīng)有了正確的答案，只是顯示了似乎有錯誤的答案。

這種情形對那些依賴于計算機所報告數(shù)據(jù)的人來說無疑是不利的，但請注意，這與計算機實際上錯誤計算出的數(shù)據(jù)截然不同！這兩者間的細微差別，其實還有很多內(nèi)容可以介紹，但現(xiàn)在，讓我們繼續(xù)前面的分析。人工愚蠢的這兩個方面都可以應用到真正的自動駕駛汽車上，但是這樣做會帶來一定的問題，值得斟酌。

五. 人工愚蠢與真正的無人駕駛汽車

如今，在公共道路上試用的自動駕駛汽車已經(jīng)憑借其高超的駕駛造詣名聲大噪?？偟膩碚f，無人駕駛汽車像一個年輕的新手司機，對駕駛?cè)蝿占饶懬佑钟行┆q豫不決。當你看到一輛無人駕駛汽車時，會發(fā)現(xiàn)它通常嘗試在其與前方汽車之間創(chuàng)建一個較大的緩沖區(qū)，并嘗試遵守我們初學駕照時保持車距的經(jīng)驗規(guī)則。人類司機很少考慮車距的安全區(qū)，往往喜歡把其他汽車擠到一邊，其實這樣做容易對自己造成危險。

下面是另一個無人駕駛汽車練習駕駛的例子。當看到停車標志牌時，無人駕駛汽車通常會完全熄火。它會等著看行駛道是否安全，然后謹慎前行。然而在人類世界，沒有人會在停車標志處完全熄火，現(xiàn)在滾動停車是一種常態(tài)。你可以下結論，人類的駕駛方式是魯莽和有點愚蠢的。由于你的車和前面的車之間沒有足夠的車距，這會提高發(fā)生追尾事故的幾率。不能在停車牌處完全熄火，會增加與另一輛車或行人相撞的風險。

以圖靈測試的方式，你可以站在人行道上看著從你身邊經(jīng)過的汽車，僅僅觀察他們的駕駛行為，你就可以確定哪些是AI駕駛的汽車，哪些是人類駕駛的汽車。聽起來熟悉嗎？大抵如此，因為這與之前提出的算術精度問題異曲同工。

如何解決這個問題？一種方法是引入上述定義的人工愚蠢。首先，你可以讓車上搭載的 AI故意縮短車距緩沖區(qū)，使其看起來像人類一樣在駕駛。同樣，可以設置 AI 滾動通過停車標志，這一切都很容易部署。這樣在觀察行駛過的汽車時，究竟是AI還是人類在駕駛便很難區(qū)分出來，因為他們兩者在駕駛過程中所犯的錯誤如出一轍。這似乎解決了一個問題，因為它關系到我們?nèi)祟悓ψ詣玉{駛汽車 AI是否智能的看法。

但是，等一下，這種做法難道不是在將AI變成風險性更高的“駕駛員”嗎？我們是否是在試圖提高這種人為駕駛導致的危險車禍的發(fā)生率呢？理智地說，不是。

我們再轉(zhuǎn)向人工愚蠢的第二個定義，即通過以一種實質(zhì)性的方式將這些“愚蠢”的駕駛方法并入AI系統(tǒng)中，使AI在駕駛汽車時能夠考慮這些因素，同時也有強烈的意識來避免它們或在特殊時刻謹慎應用這些方法。與其讓AI盲目地以人為錯誤的方式駕駛，不如開發(fā)AI，使其擁有強大的能力來應對人類駕駛的缺點，發(fā)現(xiàn)這些缺點并在有需要的場景下利用好這些缺點，讓AI成為名副其實的安全型“駕駛員”。

六. 結語

當今人工智能最顯而易見的瓶頸之一，便是它不具備任何常識推理能力，并且完全不具備人類進行整合推理的能力（許多人稱這樣的人工智能為人工通用智能或 AGI）。因此，有人認為當今的AI更接近“人工愚蠢”的一面，而不是真正“人工智能 ”的一面。如果人類擁有二元性的智慧和愚蠢，那么AI系統(tǒng)要想彰顯出人類一般的智慧，可能也需要具有類似的二元性（但也有聲音說 AI可能不必步人后塵）。

我們正在在道路上投放所謂的AI自動駕駛汽車，然而AI沒有知覺，并且不是所有的部分都能夠擁有感知能力。自動駕駛汽車只有在能夠進一步向智能階梯攀登的情況下才會成功嗎？目前無人知曉，但這絕對不是一個愚蠢的問題。

https://medium.com/@lance.eliot/why-artificial-stupidity-could-be-crucial-to-ai-self-driving-cars-2b4955f92321  

https://www.leiphone.com/news/202006/hevNEYG5HHXR90g0.html