如何創造可信的AI（簡體書）

可信的AI

陸奇

奇績創壇創始人兼CEO，百度前總裁兼COO

微軟前全球執行副總裁，雅虎前執行副總裁

我很高興能為蓋瑞·馬庫斯的新著《如何創造可信的AI》作序。鑒於這本書主題的重要性，我嘗試從三個不同的角度為中國讀者提供背景信息與書中核心內容的概述，希望有助於讀者更有效地從閱讀本書中獲益。

我先介紹一下馬庫斯的個人背景，我認為他特殊的學術和行業履歷能幫助讀者更加全面地解讀書中所表達的主要觀點。馬庫斯在高中時代花了很多精力去開發一套計算系統，目的是把拉丁語自動翻譯成現代英語。雖然這個項目沒有成功，但整個過程讓馬庫斯學到很多，特別是讓他深切感受到要讓一個計算系統具備類似人類般的認知能力和語言理解能力，純粹依賴計算能力是遠遠不夠的。他因此而形成的理念是，一個計算系統具備認知能力和語言理解能力的前提，是該系統必須具有一定程度的內在結構。

為了繼續他在科學上的追求，馬庫斯在大學本科時期打破當時學校的常規，自我設定了認知科學作為主攻專業。在麻省理工學院學習期間，他師從世界著名心理學大師和認知科學家史蒂芬·平克教授。馬庫斯在他的博士論文工作中做了大量研究兒童學習英語的實驗，他的研究成果為現代認知科學發展做出了非常重要的貢獻。博士研究生畢業後，馬庫斯在紐約大學擔任心理學教授，推動了一系列有影響力的學術研究，跨越計算機科學、認知科學、語言學和心理學等多個領域。

與此同時，馬庫斯在學術研究過程中形成了越來越完整的學術理念，對認知科學和人工智能的學術研究發展方向也形成了一系列清晰的觀念，這一切可以從他所撰寫的一系列學術著作中體現出來。

通過這些研究工作，馬庫斯在認知科學和人工智能等領域的國際學術界也享有了特殊的一席之地，一方面源於他所做的學術研究為這樣的地位奠定了重要基礎，另一方面源於他杰出的跨學科綜合科研能力。他在計算機科學、認知科學、語言學、人工智能等領域都練就了相當深厚的學術功底，更重要的是,馬庫斯一生追求科學，通過長期努力打造了一套自己的學術理念和體系。在追求科學真理的道路上，他敢於挑戰學術界的主流觀點。馬庫斯學術功底深，思路敏捷，能言善辯，敢於獨樹一幟。當整個人工智能學術界都在過分樂觀地高歌猛進時，他不斷撰文和發表演講來指出許多人工智能核心技術中存在的弊端和局限性。他堅信自己的學術理念，不認同當今學術界的主流方向能把人工智能從今天帶到未來。他敢於站出來潑冷水、唱反調，並敢於向人工智能學術界泰斗如楊立昆(Yann LeCun)等人發起多次公開辯論，因為馬庫斯深信這是追求科學真理所必需的。

更為重要的是，馬庫斯不僅是獨樹一幟的科學家，也是一個頗有成就的企業家和創業者，並專注於人工智能技術的開發與應用。他不但在學術上堅持自己的理論和方向，同時也把自己的學術理論和發展方向付諸實踐。他在2014年創建了機器學習公司“幾何智能”，由於在技術和應用上都做得相當不錯，公司於2016年被當時如日中天的優步成功收購，馬庫斯也由此加入優步成為其第一任首席科學家。離開優步之後，馬庫斯聯合著名機器人專家羅德尼·布魯克斯等人一同創立了一家名為Robust.AI的新公司，公司專注於新一代的人工智能認知引擎研發，並以機器人為主要應用物件。我們可以看出，馬庫斯在本書中闡述的核心觀念並不是紙上談兵，而是在實際的創業創新過程中被不斷驗證和迭代的。

多年前，我在工作中認識馬庫斯之後，便一直保持聯絡，我們在人工智能的學術研究和實際應用上有著長期的交流。我也閱讀了馬庫斯過去的著作，聽了他重要的學術演講。我之所以花時間將馬庫斯的背景信息介紹給讀者，是因為馬庫斯在本書中所闡述的核心內容是承上啟下的。書中的內容既建立在過去累積的學術觀念和理論之上，也是他對人工智能的現狀和下一步發展方向所做的完整總結與梳理。馬庫斯以打造“可信的AI”為主題貫穿全書的內容。這裡需要指出的是，馬庫斯所持有的觀點在學術界和行業內是不無爭議的。這樣的爭議在人工智能從今天走向未來的過程中，是健康的，也是必要的。重要的是，我們需要讓每位讀者都有一個全面的背景認知，以便更有效地從本書中獲得有價值的信息、觀點、方法論和啟迪，不論讀者是對作者的科學研究背景感興趣，還是對開發人工智能技術應用有興趣，不論讀者是創業者，還是企業管理人員。

本書的內容由兩大部分組成。第一部分是第1章到第5章，馬庫斯非常詳細和系統化地分析了今天以深度學習為基礎的主流人工智能技術所面臨的局限性。針對每一類被揭示出來的局限性，馬庫斯充分發揮了他對自然語言處理、機器人和計算機視覺等領域的科研經驗和深刻理解，通過生動易懂的案例把這些技術局限性的現象和原因清晰地描述給讀者。馬庫斯強調在沒有充分理解人工智能技術目前局限性的情況下大量開發人工智能應用將承擔相當大的風險。為了幫助讀者更方便地理解和判斷這些風險，馬庫斯把這些局限性詳細分成了9個類別，包括魯棒性的缺失等。

第一部分的中心內容是馬庫斯對人工智能的核心技術——深度學習所提出的一系列質疑。這裡采用了一系列具體案例和推理來強調我們必須在深度學習的基礎之上探索新的技術突破。馬庫斯充分發揮了他在人工智能核心領域以及跨領域科研的實力。從深度學習核心算法的內在體系開始，貫穿多項人工智能發展的前沿應用領域，比如語言理解和機器人等，馬庫斯深入淺出地分享了對人工智能技術發展的核心觀點:如果我們沿用目前以深度學習為主的人工智能技術，而不在其內在結構上探索新的途徑，以後將很難建立起具有人類般的認知能力和真正意義上的智能系統。

在這裡尤其要提出的是:在第一部分的開始階段，馬庫斯花了大量篇幅來分析今天人工智能技術被媒體所報道的能力與目前人工智能技術能夠實際落地的能力之間的對比，指出這兩者之間存在嚴重的脫節。馬庫斯指出了學術界所存在的浮夸現象以及有些媒體過分樂觀的炒作，將這種人工智能報道與現實之間的嚴重脫節叫作“AI鴻溝”。他認為如果在推進人工智能科研和應用開發的過程中不能清晰地意識到這個鴻溝的話，我們將會踩很多坑。我們都知道人工智能技術已經被廣泛地應用，有一些是涉及關鍵使命的，比如自動駕駛系統，有一些則對社會有著深遠的影響，比如信息檢索和內容分發等。

特別是在應對目前全球面臨的由新冠疫情帶來的前所未有的挑戰中，人工智能技術將起到越來越關鍵的作用。在這樣的關鍵時機下，做出正確的判斷並避免踩坑將是至關重要的。為此，馬庫斯追根溯源把“AI鴻溝”歸納為三種“大坑”。第一是“輕信坑”，這是由於人類進化的現實過程還沒有發展出清晰辨別人類與機器之間區別的能力，導致我們往往用基於人類的認知模式去看待機器的能力，從而容易輕信機器擁有人類般的智能。第二是“虛幻進步坑”，每當AI技術的進展攻克了一類新的問題時，我們往往錯誤地假設AI技術就能解決以此推及的、現實世界中的類似任務。但是AI學術上的問題往往是定義在狹義而簡化的假設下，而現實世界的具體任務都有很大的復雜性和不確定性。第三是“魯棒坑”，受限於當前深度學習算法和訓練數據，對容錯性很低特別是使命關鍵的應用領域比如無人駕駛等，今天的AI還沒能達到實際“落地”的能力。馬庫斯告誡我們必須關注“AI鴻溝”，因為踩坑的代價是非常高的。

在這裡我必須要指出，馬庫斯是人工智能技術的堅信者，並在人工智能學術研究和實際應用上做了很多積極的推動工作。他也認為基於深度學習的人工智能技術在過去十多年有了長足的進步，為一系列商業化應用做出了重要貢獻。馬庫斯質疑當前主流的人工智能技術，是希望學術界和其他相關行業能一起更有效地克服目前人工智能技術的局限性，探索新技術上的突破，從而真正實現可信的AI。

本書的第二部分是第6章到第8章，在其中馬庫斯提出了他認為的能通向未來可信AI的核心路徑。這一路徑的起點是在研究人類如何獲得認知能力時所獲得的核心啟發，並以此建立下一代人工智能技術中必要的內在結構。這裡的核心理念是馬庫斯在長期跨學科科研探索中逐漸建立起來的，我們可以從庫斯馬早期的學術著作中看到相應的端倪。馬庫斯以認知科學、心理學、語言學和哲學為基礎提取出11條關鍵線索，認為這將對未來人工智能技術在發展過程中達到具備人類智能的魯棒性起到關鍵作用。這些線索的共同核心是用內在更豐富的結構來表達信息、建立認知、建立起其他智能體系的核心要素，比如因果推理能力等。

在第二部分中，馬庫斯還強調了常識在實現未來通用人工智能中的重要性。對於如何建立常識，書中的內容充分體現了馬庫斯作為一個跨學科的學者和跨行業的企業家、創業者所擁有的綜合能力，既有核心的科學原則又有務實的系統操作:從表達時間、空間和因果關係開始，建立一個有足夠靈活性的框架並以此來連接感知、操作、語言的能力，並能不斷地從環境以及與環境交互中學習，同時將先驗與學習有機地融合在一起。這將是一個非常艱巨的任務，但馬庫斯認為這是必需的工作，是建立真正智能體系的必經之路。

最後，馬庫斯討論了幾個建立可信的AI所需要的實際能力。首先,我們要有能力來工程化地、有效可靠地開發AI系統與應用。正如計算機科學早期發展的歷史一樣，軟件開發工具和開發流程是經過計算機軟件工程這門子學科多年的努力才逐漸建立起來的，我們需要同樣的努力來逐步打造工程化開發AI系統與應用的能力。其次，確保AI系統的安全性需要全新的開發與運營能力，尤其是關鍵使命的AI應用。最後，AI系統，比如機器人，需要其創造者賦予正當的道德倫理觀念，類似於美國科幻作家艾薩克·阿西莫夫(Isaac Asimov)提出的機器人三定律。只有具備這些實際能力，我們才能真正創造可信的AI。

眾所周知，人工智能是目前為止人類歷史上創新潛能最大的技術發展浪潮。在未來的幾十年裡，它不但能誕生全新的大規模基礎產業，也能極大程度地提升和改造所有現有行業。人工智能技術及應用所產生的商業價值和社會價值將是空前的。但要推動人工智能的健康發展，我們需要不斷推進人工智能核心技術的進步，以及各種人工智能應用的開發和實踐。這將是一個持久的過程，需要學術界和產業界一起合作，需要看到不同的理念、聽到不同的聲音、表達不同的想法，在一個健康良好的環境中不斷交流、撞出火花，更好地探索科學的真理，加速人工智能的進展。

盡管不無爭議，但《如何創造可信的AI》為我們提供了豐富的內容和理念。我希望，也相信中國的讀者都能從閱讀本書的過程中有所獲益。

第1章 AI該往何處走

真的有可信的AI嗎

狹義 AI 與廣義 AI

理想與現實之間的鴻溝

如何跨越 AI 鴻溝

第2章 當下AI的9個風險

機器人有暴力傾向嗎

機器也會犯錯

當下AI的9個風險

第3章 深度學習的好與壞

人工智能 > 機器學習 > 深度學習

什麼是深度學習

深度學習的三個核心問題

深度學習是一個“美好”的悲劇

第4章 計算機若真有那麼聰明，為什麼還不會閱讀

Talk to Books 無法回答一切問題

人是怎樣閱讀的

搜索引擎和語音虛擬助手的困惑

計算機不會閱讀的三大原因

常識很重要

第5章 哪裡有真正的機器人管家

從掃地機器人到機器人管家

機器人管家必備的四個能力

認知模型和深度理解才是關鍵

第6章 從認知科學中獲得的 11 個啟示

從認知科學中獲得的 11 個啟示

為機器賦予常識

第7章 常識，實現深度理解的關鍵

建立常識庫的三種方法

知識表征

通用人工智能應具備的常識

推理能力

常識，深度理解的關鍵

第8章 創造可信的AI

優秀的工程實踐

用深度理解取代深度學習

賦予機器道德價值觀

重啟 AI

後記

致謝