千腦智能新理論

比爾・蓋茲2021年聖誕季閱讀清單選書
《金融時報》2021年度最佳書籍之一
「傑夫・霍金斯這本書探討人類智慧的新理論⋯⋯會把你的頭腦變成一個漩渦，裡面滿是令人興奮的刺激想法。」――比爾・蓋茲
一位暢銷書作家、神經科學家暨電腦工程師提出他的智慧理論，將徹底改變我們對大腦與人工智慧前景的理解。
儘管神經科學大有進步，我們在解答其最大問題方面進展甚微：大腦中的簡單細胞如何產生智能？
傑夫・霍金斯團隊發現，大腦利用類似地圖的結構建構世界的模型──並非只是單一模型，而是為我們所知的一切事物建構成千上萬個模型。此一發現使霍金斯得以回答關於我們如何感知世界、我們為何會有自我意識，以及高階思維起源的重要問題。
本書預示了智慧理論的一場革命，討論的議題十分精彩，是名副其實的「大思想」著作。
• 人腦如何運作
• 新腦與舊腦的差異
• 何謂「意識」？揭開意識的奧祕
• 打造真正AGI智慧型機器的可能性，以及我們為何不用害怕這種機器
• 機器智能的未來
• 人類錯誤信念的起源與危害
• 人腦與機器融合：上傳大腦；人機結合
• 維基地球：保存人類知識的重要性；人類遺產規劃
• 基因編輯何時必要
• 人類成為一個多星球物種

傑夫・霍金斯 Jeff Hawkins
神經科學研究公司Numenta共同創辦人，紅杉神經科學研究所（Redwood Neuroscience Institute）創辦人，掌上型運算領域的創始人之一。美國國家工程學院院士，著有《創智慧》（On Intelligence）。

譯者簡介
許瑞宋
香港科技大學會計系畢業，曾任路透中文新聞部編譯、培訓編輯和責任編輯。2011年獲第一屆林語堂文學翻譯獎。譯有《絕望死與資本主義的未來》、《適應：金融演化新思維》和《艱困時代的經濟學思考》等數十本書。
victranslates.blogspot.tw

"各界好評
「在這本引人入勝的書中，傑夫・霍金斯提出一個關於人類智慧本質的新理論，解釋我們古老的本能式爬蟲類腦與我們擅長思考的哺乳類新皮質之間的反復衝突。霍金斯還探討了創造真正的智慧型機器人的後果，他認為這是數十年內可以做到的事。」──約翰・桑希爾（John Thornhill），《金融時報》
「太精彩了⋯⋯為陷於神經科學迷宮的讀者提供精闢洞見。」
——《科克斯書評》（Kirkus Reviews）
「本書雄辯說明了眾多科學家的終極目標：認識人類心智的運作方式。霍金斯以清晰、平易、明快的文筆，概述一種很可能將影響深遠的人類智慧理論。」
──邁可・哈塞莫（Michael Hasselmo），波士頓大學系統神經科學中心主任
「霍金斯這本書是珍貴傑作，針對極其古老的智慧之謎提出了一種新理論。本書思想深刻，獨具慧見，知識廣博，富有遠見。任何人如果對神經科學最近（和沒那麼近）的發現將如何成就人工智慧接下來的突破有興趣，都應該看這本書。」
——安東尼・薩多（Anthony Zador），冷泉港實驗室（Cold Spring Harbor Laboratory）神經科學教授
「一個多世紀以來，神經科學一直在探索大腦的荒野，如今這本書終於給了我們一幅地圖。霍金斯致力研究多數神經科學家甚至不敢問的問題，並在一種新理論中找到了答案；該理論不但解釋我們如何理解世界，還說明我們如何被騙。在世界因為真相瓦解為陰謀和妄想而受威脅的時代，人人都應該看這本了不起的書。」
——亨利・馬克蘭（Henry Markram），瑞士洛桑聯邦理工學院教授、人腦計畫創始人
「傑作⋯⋯刺激讀者思考，令人振奮歡喜。」
——理查・道金斯（Richard Dawkins），演化生物學家、英國皇家學會會士
「本書帶我們走過從人腦演化到人類這個物種滅絕的旅程。一路上，霍金斯漂亮地講述了神經解剖學和神經科學的重大發現，緊緊吸引讀者。」
——《紐約時報書評》"

 

 

（序）
推薦序
一本關於大腦如何運作的書，開啟你的智慧
理查・道金斯 Richard Dawkins，演化生物學家、英國皇家學會會士
不要在睡前看這本書。這不是因為它很嚇人，它不會使你發惡夢，但它是如此令人興奮、如此刺激，會把你的頭腦變成一個漩渦，裡面滿是令人興奮的刺激想法――你會想衝出去告訴別人，而不是去睡覺。撰寫本篇序言的人正是這個漩渦的受害者，而我估計你會看得出來。
查爾斯・達爾文（Charles Darwin）在科學家當中不同尋常，因為他有辦法在大學之外從事研究，而且不必領取政府的研究資助。傑夫・霍金斯可能不喜歡被稱為矽谷的紳士科學家，但是――嗯，你應該明白他與達爾文的相似之處。達爾文強大的演化論太革命性了，以一篇短文表達根本無法受到重視，1858年達爾文與阿爾弗雷德・羅素・華萊士（Alfred Russel Wallace）聯合發表的論文幾乎被忽略了。正如達爾文自己所說，這個理論需要以一本書的篇幅來表達。果然，一年之後，他的巨作面世，動搖了維多利亞時代的根基。傑夫・霍金斯的千腦理論，也需要以一本書的篇幅闡述。他的參考框架概念，還有「思考這項行為本身是一種運動」，可說是正中紅心！這兩個概念都很深刻，每一個都足以寫成一本書，但霍金斯的慧見並非僅此而已。
赫胥黎（T. H. Huxley）看完《物種起源》（On the Origin of Species）之後留下了一句名言：「我沒想到這個，真是蠢透了。」我並不是想說腦科學家看完霍金斯這本書後也一定會這麼說。這本書提出了許多令人興奮的想法，不像《物種起源》那樣只提出一個極其重要的大觀念。
我估計，除了赫胥黎本人，他三個傑出的孫子也會喜歡這本書：安德魯會喜歡，是因為他發現了神經脈衝的運作原理（霍奇金與赫胥黎是神經系統領域的華生與克里克）；阿道斯會喜歡，是因為他富想像力和詩意的旅行去到了心靈最深處；朱利安會喜歡，是因為他寫了下列這首詩，讚頌大腦建構現實的模型、創造一種宇宙縮影的能力：
世間萬物進入你嬰孩般的頭腦
為那個水晶櫃填入東西。
最奇怪的夥伴在其壁內相會，
事物轉化為思想，繁衍同類。
因為，一旦進入，物質事實可以找到
一種精神。事實與你彼此相欠
在那裡構築你的小小宇宙――它還
有最大的重任分配給小小的自己。
亡者可以活在那裡，與星星對話：
赤道與極地交談，黑夜與白晝對話；
精神消解了世界的物質束縛――
無數的隔閡燒毀了。
宇宙可以活著、運作和計畫，
最後在人類頭腦中構造出上帝。
大腦處於黑暗中，只能經由安德魯・赫胥黎研究的神經脈衝雹暴來認識外部世界。來自眼睛的神經脈衝與來自耳朵或大腳趾的神經脈衝沒什麼不同，是大腦負責處理它們的部分將它們區分開來。傑夫・霍金斯不是第一個科學家或哲學家提出這個想法：我們所感知的現實是一種建構的現實（constructed reality）、是一種模型，仰賴感官持續提供資訊和更新內容。但我認為，霍金斯是雄辯地闡明了下列觀點的第一個人：這種模型不是只有一個，而是有成千上萬個，而構成大腦皮質、整齊堆立的大量皮質柱每個都有一個。一個人的大腦約有15萬個皮質柱，它們和霍金斯所說的「參考框架」是本書第一部的主角。霍金斯關於這兩者的論述是很刺激的，觀察其他腦科學家的反應因此會是非常有趣的事――我估計他們會有好評。霍金斯非常迷人的一個觀點是：皮質柱在它們為世界建立模型的活動中，是半自主地運作。「我們」的感知，是源自皮質柱之間的一種民主共識。
大腦中的民主？共識，甚至爭執？多麼驚人的想法。這是本書的一個重要主題。我們人類哺乳動物是一種經常性爭執的受害者：古老的爬蟲類腦不時與哺乳類新皮質角力，前者無意識地運行生存機器，後者則彷彿可以駕馭前者。這個哺乳類新腦――大腦皮質――會思考，它是意識所在之處，能夠意識到過去、現在和未來，並向舊腦發出指令，由後者來執行。
舊腦受天擇教育數百萬年之久，期間糖是珍貴和對生存非常有用之物，舊腦因此會說：「蛋糕。想吃蛋糕。嗯，蛋糕。給我。」新腦在短短數十年間受書籍和醫師教育，期間糖有氾濫之虞，它因此會說：「不，不。不能吃蛋糕。不可以。請不要吃那個蛋糕。」舊腦說：「痛，痛，可怕的疼痛，立即止痛。」新腦說：「不，不，要忍受酷刑，不能背叛國家向敵人投降。忠於國家和戰友甚至比保住自己的性命重要。」
爬蟲類舊腦與哺乳類新腦之間的衝突，解答了「疼痛為什麼必須真他媽的痛」之類的謎。說到底，疼痛的目的是什麼？疼痛是一種死亡提示。它是對大腦的一種警告：「不要再做這種事了：不要逗蛇，不要拿起還在燒的碳，不要從高處跳下。這一次你只是受傷，下一次可能送了性命。」但是，設計工程師此時可能會說，針對這種情況，大腦需要的或許是一種無痛警示。警示出現時，就不要再做那種危險的事。然而，我們實際得到的不是工程師主張的那種輕鬆和無痛的警示，而是疼痛――而且往往是極其強烈、無法忍受的疼痛。為什麼？合情合理的無痛警示有什麼問題？
答案很可能在於大腦決策過程的爭執性質，在於舊腦與新腦之間的角力。如果新腦可以非常輕鬆地否決舊腦的意願，無痛的警示系統就會行不通。酷刑也不行。
在那種情況下，如果新腦出於某種原因「想要那麼做」，它將可以隨意無視假想中的警示，無限地忍受蜜蜂螫刺、腳踝扭傷或施暴者的酷刑。確實「在乎」生存以傳承基因的舊腦，或許只能徒勞地「抗議」。也許出於生存之必要，天擇使疼痛變得真他媽的痛，痛到新腦無法否決舊腦的意願，確保了舊腦的「勝利」。再舉個例子：如果舊腦「意識到」刻意避孕背叛了性行為的達爾文目的，戴保險套這個動作將導致無法忍受的疼痛。
霍金斯站在多數有見識的科學家和哲學家那一邊，對二元論非常不屑，認為沒有所謂的「機器中的幽靈」（ghost in the machine），沒有那種可怕的靈魂，因為獨立於硬體，可以在硬體死亡之後存活下去，也沒有笛卡爾劇場〔丹尼爾・丹尼特（Daniel Dennett）的用語〕，有個彩色螢幕向在觀看的自我播出展現世界面貌的影片。霍金斯提出了他的想法：大腦中的世界模型、建構的小宇宙有許多個，它們由從感官湧入的大量神經脈衝提供資訊和調整內容。順帶一提，霍金斯並不認為長遠而言，人類絕對不可能藉由將大腦上傳到電腦來逃避死亡，但他認為這不會是很有趣的事。
在大腦的模型中，身體本身的模型是比較重要的其中一類，負責處理身體本身的運動如何改變我們對頭骨獄牆之外世界的看法（這是此類模型的必要功能。）這與本書中間部分重點關注的機器智能有關。霍金斯和我一樣，非常尊重那些才智出眾者（包括他和我的一些朋友），他們擔心未來將出現取代我們、征服我們或甚至完全消滅我們的超級智慧型機器。但霍金斯並不害怕這種機器，部分原因在於那種稱雄西洋棋或圍棋的能力，並不是那種能夠應付現實世界的複雜性的能力。不會下棋的孩子「知道液體如何溢出，球如何滾動，狗如何吠叫。他們知道如何使用鉛筆、麥克筆、紙和膠水。他們知道如何打開書本，也知道紙是可以撕開的。」他們有一種自我意象，這種身體意象將他們置於物質現實世界中，使他們能夠輕鬆穿行其中。
霍金斯並不是低估了人工智慧和未來機器人的力量，恰恰相反。但他認為，現今多數研究走錯了路；在他看來，正確的做法是了解大腦的運作方式，然後加以借用，但大大加快速度。
而我們沒有理由借用舊腦的運作方式，借用其欲望與飢渴、渴望與憤怒、感覺與恐懼（請真的不要做這種事），因為它們可能驅使我們走上新腦視為有害的道路。至少從霍金斯和我（以及幾乎肯定還有你）所珍視的角度來看，那是有害的。因為霍金斯非常清楚，我們開明的價值觀必須與我們自私的基因的首要和原始的價值觀――不惜一切代價繁殖的原始渴求――大相逕庭（事實也確實如此。）在他看來（我估計這會有爭議），如果沒有舊腦，我們就沒有理由預期人工智慧對我們懷有惡意。同樣道理，他不認為關掉有意識的人工智慧會是謀殺（這也可能會有爭議）：如果沒有舊腦，它為什麼會感到恐懼或悲傷？為什麼會想要生存？
在第16章〈基因vs.知識〉中，我們明確看到了舊腦的目標（為自私的基因服務）與新腦目標（知識）之間的巨大差異。人類大腦皮質的榮耀在於它有能力違抗自私基因的命令――這在所有動物當中是獨一無二的，在地質年代當中是前所未有的。我們可以享受性生活而不生育。我們可以把我們的生命奉獻給哲學、數學、詩歌、天體物理學、音樂、地質學或人類愛的溫暖，無視舊腦源自遺傳的敦促――舊腦告訴我們，這些活動都是浪費時間，這些時間「應該」用來與對手戰鬥和追求多個性伴侶。霍金斯寫道：「在我看來，我們必須作一項重大抉擇：選擇偏向舊腦或偏向新腦。較具體而言，我們是希望我們的未來受天擇、競爭和自私的基因所驅動（我們藉由這些過程走到現在），還是受智能和它理解世界的渴望所驅動？」
我在文首引用了赫胥黎看完達爾文《物種起源》之後討喜的謙虛評論，在此我要以霍金斯許多迷人想法的其中一個來結束本文，他只用短短篇幅就闡述完畢，使我想要附和赫胥黎的話。霍金斯覺得，我們需要樹立一塊宇宙墓碑，告訴外星文明我們在這裡存在過，而且有能力宣布此一事實。他指出，所有文明都是短暫的。在宇宙時間的尺度上，一個文明從發明電磁通訊到它消亡就像螢火蟲閃一下光那麼久。一個文明與另一個文明同時閃光的可能性小到令人遺憾。因此，我們需要發出的訊息並非「我們正在這裡」，而是「我們曾經在這裡」，這正是為什麼我稱之為「墓碑」。這塊墓碑持續樹立的時間必須是宇宙尺度的，不能只是在幾個秒差距之外可見（1秒差距約為3.26光年），而是必須持續數百萬或甚至數十億年，以便在人類滅絕很久之後，其他智慧閃光仍有機會注意到它發出的訊息。廣播質數或π的數字是不行的，反正不能是無線電訊號或脈衝雷射光束。它們無疑可以宣告生物智能的存在，這正是為什麼它們是尋找外星智慧（the search for extraterrestrial intelligence, SETI）和科幻小說的常用手段，但它們太短暫和太當下了。那麼，什麼訊號可以持續夠久，而且可以在極遠之處從任何方向探測到？霍金斯正是在這裡喚起我內心的赫胥黎。
這在今天是做不到的，但在未來，在我們的螢火蟲之光消失之前，我們可以將一系列的衛星送入繞著太陽運行的軌道，「以一種不會自然發生的模式擋掉一些陽光。這些軌道上的陽光阻擋器，將持續圍繞太陽運行數百萬年，在人類滅絕很久之後，仍然可以在很遠的地方探測到。」即使這些本影衛星（umbral satellites）的間距不是一系列的質數，仍可明確無誤地發出這個訊息：「有智慧的生命在此存在過。」
我覺得特別令人歡喜的是，以尖峰之間的間隔模式編碼的宇宙訊息（在霍金斯的例子中是反尖峰，因為他的衛星會阻擋陽光），使用的代碼將與神經元相同。我把這個小發現獻給霍金斯，感謝他的這本傑作帶給我許多樂趣。
這是一本關於大腦如何運作的書。它刺激讀者思考，令人振奮歡喜。

目錄
推薦序 一本關於大腦如何運作的書，開啟你的智慧 理查・道金斯 Richard Dawkins
第一部 對大腦的新理解
1 舊腦―新腦
2 蒙卡索的大觀念
3 你頭腦裡的世界模型
4 揭開大腦的祕密
5 大腦裡的地圖
6 概念、語言與高階思維
7 千腦智能理論
第二部 機器智能
8 為什麼現今的AI沒有I
9 當機器有了意識
10 機器智能的未來
11 機器智能的存在風險
第三部 人類智能
12 錯誤的信念
13 人類智能的存在風險
14 人腦與機器融合
15 人類遺產規劃
16 基因vs.知識
結語 我寫這本書的目的
推薦讀物
謝辭

（內容連載）
第一部
對大腦的新理解
你頭腦裡的細胞正在閱讀這些文字，想想這是多麼了不起的事。細胞相當簡單。單個細胞不能閱讀，不能思考，也不能做很多事。但是，如果有足夠多的細胞構成一個大腦，它們就不但能夠讀書，還能夠寫書。它們還能設計建築物、發明技術，以及破解宇宙的奧祕。一個由簡單細胞構成的大腦如何創造出智能？這個問題極有意思，至今仍是個謎。
了解大腦如何運作，被視為人類的一大挑戰。此一探索催生了數十個國家和國際層面的計畫，包括歐洲的人腦計畫（Human Brain Project）和國際大腦計畫（International Brain Initiative）。數以萬計的神經科學家致力於數十個專業領域的研究，希望了解大腦，而世界上幾乎每一個國家都有這種研究者。雖然這些神經科學家研究不同動物的大腦並嘗試回答不同的問題，但神經科學的最終目標是了解人腦如何產生人類智能。
你可能對我聲稱人腦仍是個謎感到驚訝。每年都有人宣布與大腦有關的新發現，出版關於大腦的新書，而相關領域如人工智慧的研究人員則聲稱他們的創造物已經逼近老鼠或貓的智能，這很容易使人認為科學家對大腦的運作方式已有不錯的認識。但如果你問神經科學家，他們幾乎全都會承認，我們至今仍不清楚：雖然我們已經掌握了關於大腦的大量知識和事實，但我們對整個大腦的運作方式仍然知之甚少。
1979年，因研究DNA而聞名的法蘭西斯・克里克（Francis Crick）寫了一篇關於腦科學狀態的文章，題為〈思考大腦〉（“Thinking About the Brain”）。他描述了科學家蒐集的關於大腦的大量事實，但總結道：「雖然細節知識持續積累，但人腦如何運作仍然非常神祕。」他接著說：「我們顯然欠缺一個大觀念框架來理解這些結果。」
克里克觀察到，科學家已經蒐集關於大腦的資料數十年之久。他們知道大量事實，但沒有人知道如何將這些事實組合成有意義的東西。大腦就像一幅巨大的拼圖，有成千上萬片。拼圖片就在我們眼前，但我們無法理解。沒有人知道答案應該是怎樣的。根據克里克的說法，大腦之所以是個謎，不是因為我們沒有蒐集到足夠的資料，而是因為我們不知道如何處理手頭的拼圖片。在克里克寫下這篇文章後的四十年裡，腦科學有許多重大發現，我將在後面談到其中幾項，但整體而言，克里克的見解至今還是正確的。大腦裡的細胞如何產生智能？這目前仍是個深奧的謎。隨著我們累積的拼圖片逐年增加，我們對大腦的理解有時反而像是不進反退。
我年輕時讀過克里克那篇文章，深受啟發。我覺得我們可以在我有生之年解開大腦之謎，而從那時起，我就一直致力於這項目標。過去十五年裡，我在矽谷領導一支研究團隊，研究大腦裡被稱為新皮質的部分。新皮質約占人腦體積70％，負責我們認為與智能有關的一切，包括我們的視覺、觸覺和聽覺，以及所有形式的語言，以至數學和哲學之類的抽象思考。我們的研究目標是具體了解新皮質的運作原理，以便我們能夠解釋大腦的生物學，並建造運作原理相同的智慧型機器。
2016年初，因為認識上有所突破，我們的研究大有進展。我們認識到，我們和其他科學家都忽略了一個關鍵要素。因為這項新洞見，我們明白了拼圖片應該如何拼起來。換句話說，我相信我們發現了克里克所說的框架，而這個框架不但解釋了新皮質的基本運作原理，還賦予我們一種思考智能的新方式。我們還沒建立一個關於大腦的完整理論――遠遠沒有。科學領域往往始於理論框架，而細節是隨後研究出來的。最著名的例子可能是達爾文的演化論，達爾文先提出關於物種起源的大膽新構想，而相關細節，例如基因和DNA如何運作，則是許多年後才明瞭的。
為了能有智能，大腦必須了解關於世界的許多東西。我說的並非只是我們在學校學到的東西，還包括基本事物，例如日常物品的外觀、聲音，以及予我們的感覺。我們必須了解物品的運作方式，例如門窗怎麼打開和關閉，以至我們觸碰智慧型手機螢幕上的應用程式時，它們會有什麼反應。我們必須了解現實中各種東西的位置，包括個人物品放在家裡的什麼角落，以至圖書館和郵局在社區裡的位置。當然，我們還學習較高層次的概念，例如「憐憫」和「政府」的涵義。除此之外，我們每個人都學了成千上萬個詞語的意思。我們每個人都掌握關於這個世界的大量知識。我們的一些基本技能是基因決定的，例如進食，或畏縮以避免疼痛；但我們對世界的大部分認識是後天學來的。
科學家說，大腦習得一個世界的模型。「模型」一詞意味著我們所知道的並非只是零散的一堆事實，而是以一種反映世界（及其所有事物）的結構的方式組織起來。例如要知道什麼是自行車，我們並不是記住關於自行車的一堆事實，而是由我們的大腦建立一個自行車的模型，內容包括自行車有哪些零組件、這些零組件的相對位置，以及它們如何移動和協調運作。為了認得一種東西，我們必須先了解其外觀和予我們的感覺；為了達成目標，我們必須知道我們與世上各種事物互動時，它們通常會有什麼反應。智能與大腦的世界模型密切相關；因此，為了明白大腦如何創造智能，我們必須釐清由簡單細胞構成的大腦如何習得一個世界（及其所有事物）的模型。
我們2016年的發現解釋了大腦如何習得這個模型。我們推斷，新皮質利用「參考框架」（reference frames）這種東西儲存我們所知道的一切，儲存我們所有的知識。我稍後將詳細解釋這一點，這裡且以紙本地圖作類比略微解釋。地圖是一種模型：一座城鎮的地圖是這座城鎮的模型，而格線（例如經緯線）是一種參考框架。地圖的格線，其參考框架，構成地圖的結構。參考框架告訴你事物相對於彼此的位置，也可以告訴你如何達成目標，例如怎麼從一個位置去到另一個位置。我們認識到，大腦的世界模型是以類似地圖那種參考框架建立的，但不是一個參考框架，而是數十萬個。事實上，我們現在認識到，新皮質的大部分細胞致力於創造和操作參考框架，而大腦利用這些參考框架來規劃和思考。
因為這項新洞見，我們開始看見神經科學一些大問題的答案。這些問題包括：我們的各種感官輸入如何整合成單一體驗？我們思考時發生了什麼事？為什麼兩個人可以基於相同的觀察得出不同的信念？為什麼我們會有自我意識？
本書講述這些發現的故事，並且說明它們對我們的未來有何涵義。大部分材料已在科學期刊發表過，我將在書末告訴大家如何找到這些論文。但是，科學論文不適合用來解釋大規模的理論，尤其是以非專業人士能夠理解的方式。
我把這本書分為三個部分。在第一部，我闡述了我們的「參考框架理論」――我們稱之為「千腦理論」（Thousand Brains Theory）。這項理論有一部分是基於邏輯推演，因此我將說明我們的推論步驟。我也將講述一點歷史背景，以助你了解這項理論與大腦觀念史的關係。我希望你在看完本書第一部時，大致明白你在這個世界裡思考和行動時，你的頭腦裡發生了什麼事，以及有智能意味著什麼。
本書的第二部是關於機器智能（machine intelligence）。智慧型機器（有智能的機器）將改變二十一世紀，一如電腦改變了二十世紀。千腦理論解釋了為什麼現在的人工智慧（artificial intelligence, AI）還不算是有智能，以及我們必須做些什麼才可以製造真正的智慧型機器。我描述了未來智慧型機器的模樣，以及我們可能如何使用它們。我解釋了為什麼有些機器會有意識，以及我們應該如何因應這種情況。最後，許多人擔心智慧型機器將危及人類的存在，擔心我們即將創造出一種將毀滅人類的技術，我認為這是過慮了。我們的發現說明了為什麼機器智能本身是良性的，但是作為一種強大的技術，其風險在於人類可能如何使用。
在本書的第三部，我從大腦和智能的角度檢視人類的境況。大腦的世界模型包含我們的自我模型，這導致一個奇妙的事實：你和我每時每刻所感知的，是一種對世界的模擬，而不是真實的世界。千腦理論的一個涵義是我們對世界的信念可能是錯誤的。我將會解釋這種情況如何發生，為什麼錯誤的信念難以消除，以及錯誤的信念與我們較為原始的情緒相結合，可能如何危及我們的長期生存。
最後幾章討論我認為人類作為一個物種將面臨的最重要抉擇。我們有兩種方式看待自己，一種是視自己為生物有機體（biological organisms），是演化和天擇的產物。從這個角度來看，人類是由我們的基因界定的，而生命的目的就是複製這些基因。但是，我們現在正在擺脫我們純粹的生物歷史（biological past），我們已經成為一個有智能的物種。我們是地球上第一個知道宇宙的大小和年齡的物種。我們是第一個知道地球如何演變以及人類如何走到現在這種狀態的物種。我們是第一個開發出工具來探索宇宙和破解其奧祕的物種。從這個角度來看，界定人類的是我們的智能和知識，而不是我們的基因。我們思考未來時面臨的抉擇是：我們應該繼續受我們的生物歷史驅動，還是選擇善用我們較晚出現的智能？
我們可能無法兩者都兼顧。我們正在創造強大的技術，可以根本改變我們的星球、操縱生物學，以及在不久的將來創造出比我們更聰明的機器。但我們仍未能擺脫那些幫助我們走到今天這種狀態的原始行為。這種組合真正危及人類的存在，是我們必須妥善處理的風險。如果我們願意接受界定人類的是我們的智能和知識，而不是我們的基因，那麼或許我們將能創造一種比較持久、而且目標較為崇高的未來。
宇宙裡唯一知道宇宙存在的東西，是漂浮在我們腦海裡的三磅重細胞團，這使我覺得很神奇。我因此想起了一道古老的謎題：如果有一棵樹在森林裡面倒下，沒有人聽見，那麼它是否發出了聲音？同樣地，我們可以問：如果宇宙出現又消失，而沒有大腦知道，宇宙真的存在過嗎？誰會知道？懸浮在你頭顱裡的數十億個細胞不但知道宇宙存在，還知道它浩瀚且古老。這些細胞已經習得一個世界的模型，而據我們所知，這種知識並不存在於任何其他地方。我畢生致力於了解大腦如何做到這一點，而我們至今的發現使我興奮不已。我希望你也會為此感到興奮。我們就開始分享這些發現吧。