如何創(chuàng )造可信的AI，這里有馬庫斯的11條建議

第一，沒(méi)有銀彈——破除對“終極算法”的迷信

深度學(xué)習落入了“尋找銀彈”（銀彈在歐洲民間傳說(shuō)中是吸血鬼和狼人克星，引申義為致命武器、殺手锏）的陷阱，用充滿(mǎn)“殘差項”和“損失函數”等術(shù)語(yǔ)的全新數學(xué)方法來(lái)分析世界，依然局限于“獎勵最大化”的角度，而不去思考，若想獲得對世界的“深度理解”，整個(gè)體系中還需要引入哪些東西。

神經(jīng)科學(xué)告訴我們大腦是極為復雜的。真正擁有智慧和復雜性的系統，很有可能像大腦一樣充滿(mǎn)復雜性。任何一個(gè)提出將智慧凝練成為單一原則的理論，或是簡(jiǎn)化成為單一“終極算法”的理論，都將誤入歧途。

第二，認知大量利用內部表征——人類(lèi)的認知不是從出生后的學(xué)習才開(kāi)始，而是依賴(lài)于進(jìn)化留下的先天表征

從嚴格的技術(shù)意義上講，神經(jīng)網(wǎng)絡(luò )也具有表征，比如表示輸入、輸出和隱藏單元的向量，但幾乎完全不具備更加豐富的內容。在經(jīng)典人工智能中，知識完全是由這類(lèi)表征的積累所組成的，而推理則是建立在此基礎之上的。如果事實(shí)本身模糊不清，得到正確的推理就會(huì )難于上青天。外顯表征的缺失，也在DeepMind的雅達利游戲系統中造成了類(lèi)似的問(wèn)題。DeepMind的雅達利游戲系統之所以在《打磚塊》這類(lèi)游戲的場(chǎng)景發(fā)生稍許變化時(shí)便會(huì )崩潰，原因就在于它實(shí)際上根本不表征擋板、球和墻壁等抽象概念。

沒(méi)有這樣的表征，就不可能有認知模型。沒(méi)有豐富的認知模型，就不可能有魯棒性。你所能擁有的只是大量的數據，然后指望著(zhù)新事物不會(huì )與之前的事物有太大的出入。當這個(gè)希望破滅時(shí)，整個(gè)體系便崩潰了。

在為復雜問(wèn)題構建有效系統時(shí)，豐富的表征通常是必不可少的。DeepMind在開(kāi)發(fā)以人類(lèi)(或超人)水平下圍棋的AlphaGo系統時(shí)，就放棄了先前雅達利游戲系統所采用的“僅從像素學(xué)習”的方法，以圍棋棋盤(pán)和圍棋規則的詳細表征為起步，一直用手工的機制來(lái)尋找走棋策略的樹(shù)形圖和各種對抗手段。

第三，抽象和概括在認知中發(fā)揮著(zhù)至關(guān)重要的作用

我們的認知大部分是相當抽象的。例如，“X是Y的姐妹”可用來(lái)形容許多不同的人之間的關(guān)系:瑪利亞·奧巴馬是薩沙·奧巴馬的姐妹，安妮公主是查爾斯王子的姐妹，等等。我們不僅知道哪些具體的人是姐妹，還知道姐妹的一般意義，并能把這種知識用在個(gè)體身上。比如，我們知道，如果兩個(gè)人有相同的父母，他們就是兄弟姐妹的關(guān)系。如果我們知道勞拉·英格斯·懷德是查爾斯·英格斯和卡羅琳·英格斯的女兒，還發(fā)現瑪麗·英格斯也是他們的女兒，那么我們就可以推斷，瑪麗和勞拉是姐妹，我們也可以推斷:瑪麗和勞拉很可能非常熟識，因為絕大多數人都和他們的兄弟姐妹一起生活過(guò);兩人之間還可能有些相像，還有一些共同的基因特征;等等。

認知模型和常識的基礎表征都建立在這些抽象關(guān)系的豐富集合之上，以復雜的結構組合在一起。人類(lèi)可以對任何東西進(jìn)行抽象，時(shí)間(“晚上10:35”)、空間(“北極”)、特殊事件(“亞伯拉罕·林肯被暗殺”)、社會(huì )政治組織(“美國國務(wù)院”“暗網(wǎng)”)、特征(“美”“疲勞”)、關(guān)系(“姐妹”“棋局上擊敗”)、理論(“馬克思主義”)、理論構造(“重力”“語(yǔ)法”)等，并將這些東西用在句子、解釋、比較或故事敘述之中，對極其復雜的情況剝絲抽繭，得到最基礎的要素，從而令人類(lèi)心智獲得對世界進(jìn)行一般性推理的能力。

第四，認知系統是高度結構化的

我們可以預期，真正的人工智能很可能也是高度結構化的，在應對給定的認知挑戰時(shí)，其大部分能力也將源自在正確的時(shí)間以正確的方式對這種結構進(jìn)行利用。具有諷刺意味的是，當前的趨勢與這樣的愿景幾乎完全相反。現在的機器學(xué)習界偏向于利用盡可能少的內部結構形成單一同質(zhì)機制的端到端模型。

在某種程度上，這樣的系統從概念上來(lái)看更簡(jiǎn)單，用不著(zhù)為感知、預測等分別設計單獨的算法。而且，初看起來(lái)，該模型大體上效果還算理想，有一部令人印象深刻的視頻似乎也證明了這一點(diǎn)。那么，既然用一個(gè)龐大的網(wǎng)絡(luò )和正確的訓練集就能簡(jiǎn)單易行地達到目標，為什么還要將感知、決策和預測視為其中的獨立模塊，然后費心費力地建立混合系統呢?

問(wèn)題就在于，這樣的系統幾乎不具備所需的靈活性。

在關(guān)鍵的應用場(chǎng)景中，最優(yōu)秀的AI研究人員致力于解決復雜問(wèn)題時(shí)，常常會(huì )使用混合系統，我們預期，這樣的情況在未來(lái)會(huì )越來(lái)越多。AI和大腦一樣，必須要有結構，利用不同的工具來(lái)解決復雜問(wèn)題的不同方面。

第五，即便是看似簡(jiǎn)單的認知，有時(shí)也需要多種工具

大腦也利用幾種不同的模式來(lái)處理概念，利用定義，利用典型特征，或利用關(guān)鍵示例。我們經(jīng)常會(huì )同時(shí)關(guān)注某個(gè)類(lèi)別的特征是什么，以及為了令其滿(mǎn)足某種形式的標準，必須符合什么條件。

AI面臨的一個(gè)關(guān)鍵挑戰，就是在捕捉抽象事實(shí)的機制(絕大多數哺乳動(dòng)物是胎生)和處理這個(gè)世界不可避免的異常情況的機制(鴨嘴獸這種哺乳動(dòng)物會(huì )產(chǎn)卵)之間，尋求相對的平衡。通用人工智能既需要能識別圖像的深度學(xué)習機制，也需要能進(jìn)行推理和概括的機制，這種機制更接近于經(jīng)典人工智能的機制以及規則和抽象的世界。

要獲得適用范圍更廣的AI，我們必須將許多不同的工具組織在一起，有些是老舊的，有些是嶄新的，還有一些是我們尚未發(fā)現的。

第六，人類(lèi)思想和語(yǔ)言是由成分組成的

在喬姆斯基看來(lái)，語(yǔ)言的本質(zhì)，用更早期的一位語(yǔ)言學(xué)家威廉·馮·洪堡(Wilhelm von Humboldt)的話(huà)來(lái)說(shuō)，就是“有限方法的無(wú)限使用”。借有限的大腦和有限的語(yǔ)言數據，我們創(chuàng )造出了一種語(yǔ)法，能讓我們說(shuō)出并理解無(wú)限的句子，在許多情況下，我們可以用更小的成分構造出更大的句子，比如用單詞和短語(yǔ)組成上面這句話(huà)。如果我們說(shuō)，“水手愛(ài)上了那個(gè)女孩”，那么我們就可以將這句話(huà)作為組成要素，用在更大的句子之中，“瑪麗亞想象水手愛(ài)上了那個(gè)女孩”，而這個(gè)更大的句子還可以作為組成要素，用在還要大的句子之中“克里斯寫(xiě)了一篇關(guān)于瑪麗亞想象水手愛(ài)上了那個(gè)女孩的文章”，以這樣的方式接著(zhù)類(lèi)推，每一句話(huà)我們都可以輕松理解。

神經(jīng)網(wǎng)絡(luò )先驅學(xué)者杰弗里·欣頓一直在為他提出的“思維向量”而發(fā)聲。在深度學(xué)習中，每個(gè)輸入和輸出都可以被描述為一個(gè)向量，網(wǎng)絡(luò )中的每個(gè)“神經(jīng)元”都為相關(guān)向量貢獻一個(gè)數字。由此，許多年以來(lái)，機器學(xué)習領(lǐng)域的研究人員一直試圖將單詞以向量的形式進(jìn)行編碼，認為任何兩個(gè)在意義上相似的單詞都應該使用相似的向量編碼。

類(lèi)似的技術(shù)被谷歌所采用，并體現在了谷歌最近在機器翻譯方面取得的進(jìn)展之中。那么，為什么不以這種方式來(lái)表征所有的思想呢?

因為句子和單詞不同。我們不能通過(guò)單詞在各類(lèi)情況下的用法來(lái)推測其意思。例如貓的意思，至少與我們聽(tīng)說(shuō)過(guò)的所有“貓”的用法的平均情況有些許相似，或(從技術(shù)角度講)像是深度學(xué)習系統用于表征的矢量空間中的一堆點(diǎn)。但每一個(gè)句子都是不同的:John is easy to please(約翰很好哄)和John is eager to please(約翰迫不及待的想要取悅別人)并不是完全相似的，雖然兩句話(huà)中的字母乍看去并沒(méi)有多大區別。John is easy to please和John is not easy to please的意思則完全不同。在句子中多加一個(gè)單詞，就能將句子的整個(gè)意思全部改變。深度學(xué)習在沒(méi)有高度結構化句子表征的情況下工作，往往會(huì )在處理細微差別時(shí)遇到問(wèn)題。

這個(gè)例子告訴我們:統計數字經(jīng)常能近似地表示意義，但永遠不可能抓住真正的意思。如果不能精準地捕捉單個(gè)單詞的意義，就更不能準確地捕捉復雜的思想或描述它們的句子。

第七，對世界的魯棒理解，既需要自上向下的知識，也需要自下而上的信息

看一看這幅圖片。這是個(gè)字母，還是個(gè)數字?

很明顯，這幅圖片既可以是字母，也可以是數字，具體取決于它所在的上下文。

認知心理學(xué)家將知識分為兩類(lèi):自下而上的信息，是直接來(lái)自我們感官的信息;還有自上而下的知識，是我們對世界的先驗知識,例如,字母和數字是兩個(gè)不同的類(lèi)別，單詞和數字是由來(lái)自這些類(lèi)別之中的元素所組成的，等等。這種模棱兩可的B/13圖像，在不同的上下文中會(huì )呈現出不同的面貌，因為我們會(huì )嘗試著(zhù)將落在視網(wǎng)膜上的光線(xiàn)與合乎邏輯的世界相結合。

找到一種方法將自下而上和自上而下兩者整合為一體，是人工智能的當務(wù)之急，卻常常被人忽視。

人類(lèi)對任何一個(gè)概念的認知，都取決于概念出現的上下文和其所屬的理論框架。識別出不同的應用場(chǎng)景，不僅可以顯著(zhù)減少所需數據，還能夠讓AI變得更加可信任。如果AI可以區分畫(huà)中的一把刀和真實(shí)場(chǎng)景下的刀，就可以做出不同的反應。

同時(shí)，人類(lèi)會(huì )對每個(gè)事物和人的個(gè)體分別進(jìn)行持續的觀(guān)察和跟蹤，以此來(lái)將不同時(shí)間點(diǎn)的數據進(jìn)行統一的分析。這也是AI需要向人類(lèi)學(xué)習的方式。

第八，概念嵌于理論之中

嵌入在理論中的概念對有效學(xué)習至關(guān)重要。假設一位學(xué)齡前兒童第一次看到鬣蜥的照片。從此之后，孩子們就能認出其他照片上的、視頻中的和現實(shí)生活中的鬣蜥，而且準確率相當高，很容易就能將鬣蜥與袋鼠甚至其他蜥蜴區分開(kāi)來(lái)。同樣，孩子能夠從關(guān)于動(dòng)物的一般知識中推斷出，鬣蜥會(huì )吃東西，會(huì )呼吸，它們生下來(lái)很小，會(huì )長(cháng)大，繁殖，然后死去，并意識到可能有一群鬣蜥，它們看起來(lái)或多或少都有些相似，行為方式也相似。

沒(méi)有哪個(gè)事實(shí)是一座孤島。通用人工智能若想獲得成功，就需要將獲取到的事實(shí)嵌入到更加豐富的、能幫助將這些事實(shí)組織起來(lái)的高層級理論之中。

第九，因果關(guān)系是理解世界的基礎

深度學(xué)習能否成功，在嘗試之前是無(wú)法確證的，AlphaGo的設計者在設計之初也不確定能否取得如今的成績(jì)，畢竟深度學(xué)習能夠找到的規律只是相關(guān)性，而非因果性。

圍棋的棋盤(pán)形式和游戲規則構成了一個(gè)相對簡(jiǎn)單的因果模型，只有勝負的結果和單一的時(shí)間顆粒度，影響勝負的因素只有自己如何下棋。因此，和贏(yíng)棋相關(guān)的走法，就等同于導致AI更強的算法改進(jìn)。

但現實(shí)中，尤其是在2B的應用場(chǎng)景下，AI需要在多維度和長(cháng)時(shí)間尺度下，做出同時(shí)滿(mǎn)足多種評價(jià)標準的決策，此時(shí)相關(guān)性就不等同于因果性。

第十，我們針對逐個(gè)的人和事件進(jìn)行跟進(jìn)

你的另一半以前當過(guò)記者，喜歡喝白蘭地，不那么喜歡威士忌。你的女兒以前特別害怕暴風(fēng)雨，喜歡吃冰激凌，沒(méi)那么喜歡吃曲奇餅。你車(chē)子的右后門(mén)被撞了個(gè)小坑，一年前你更換了車(chē)子的變速器。街角那家小商店，以前賣(mài)的東西質(zhì)量特別好，后來(lái)轉手給新老板之后，東西的質(zhì)量就一天不如一天。我們對世界的體驗，是由許多持續存在、不斷變化的個(gè)體組成的，而我們的許多知識，也是圍繞著(zhù)這些個(gè)體事物而建立起來(lái)的。不僅包括汽車(chē)、人物和商店，還包括特定的實(shí)體，及其特定的歷史和特征。

奇怪的是，這并非深度學(xué)習與生俱來(lái)的觀(guān)點(diǎn)。深度學(xué)習以類(lèi)別為重點(diǎn)，而不以個(gè)體為重點(diǎn)。通常情況下，深度學(xué)習善于歸納和概括:孩子都喜歡吃甜食，不那么喜歡吃蔬菜，汽車(chē)有四個(gè)輪子。這些事實(shí)，是深度學(xué)習系統善于發(fā)現和總結的，而對關(guān)于你的女兒和你的車(chē)子的特定事實(shí)，則沒(méi)什么感覺(jué)。

第十一，復雜的認知生物體并非白板一塊

人工智能要獲得真正的進(jìn)步，首先要搞清楚應該內置何種知識和表征，并以此為起點(diǎn)來(lái)啟動(dòng)其他的能力。

我們整個(gè)行業(yè)，都需要學(xué)習如何利用對實(shí)體對象的核心理解來(lái)進(jìn)一步了解世界，在此基礎之上構建起系統，而不是單純憑借像素和行為之間的相關(guān)性來(lái)學(xué)習一切，以此為系統的核心。我們所謂的“常識”，大部分是后天習得的，比如錢(qián)包是用來(lái)裝錢(qián)的、奶酪可以打成碎屑，但幾乎所有這些常識，都始于對時(shí)間、空間和因果關(guān)系的確定感知。所有這一切的基礎，可能就是表征抽象、組合性，以及持續存在一段時(shí)間(可以是幾分鐘，也可以是數十年)的對象和人等個(gè)體實(shí)體的屬性的內在機制。如果機器想要學(xué)習尚無(wú)法掌握的東西，那么從一開(kāi)始就需要擁有這樣的基礎。