循環：AI如何影響人類，人類如何應對AI（簡體書）

什麼是循環？本書提到三個循環：第一個循環也是最核心的循環，即世代沿襲的人類本能。人類天生具有偏見，而且更傾向於使用大腦的系統1行事，在這個過程中，人類原有的偏見進一步被強化，形成第一個循環。第二個循環是來自現代的力量，如消費類技術、資本主義、營銷和政治，它們對核心循環的人類行為進行采樣，總結出模式，再將這些模式反作用於人類，最終引發了一系列問題。第三個循環，即本書書名所指的循環，是來自人工智能的影響。AI對人類偏見進行采樣，總結出規律，最後把這些規律反作用於人類，形成第三個循環。AI正在改變我們所熟悉的世界，它每天都在製造新的風險。不過真正的危險不在於機器，而是我們的大腦。我們已經習慣於利用捷徑、偏見和不透明的程序做出決策。正如金融利用了人類思維的弱點一樣，AI也將利用我們的生活模式，以不可抗拒和無形的方式操縱我們。在本書中，作者揭示了我們是如何將這些習慣融入決策技術中，這些決策如何影響我們，我們又該如何應對。

作者簡介

雅各布?沃德，斯坦福大學行為科學高級研究員，NBC新聞的科技記者，此前曾擔任CNN、半島電視臺和PBS的科技記者。沃德是《大眾科學》雜志的前任主編，他還主持了PBS電視臺長達4小時的系列紀錄片《侵入你的大腦》，向電視觀眾介紹了人類決策和非理性方面的基本科學發現。

人工智能將改變我們所知的世界。但真正的危險不是某個機器人會奴役我們，而是我們自己的大腦。我們的大腦經常使用捷徑、偏見和隱藏的過程來做決定——我們正在使用同樣的方法來創造技術，為我們做出選擇。雅各布·沃德認為，人工智能對人類最大的威脅不在於機器人的反撲，我們的大腦才是最需要堤防的因子。在決策時，大腦會受到偏見、情緒等因素影響。而當我們在選擇要喂養哪些信息給智能產品時，往往也會把這些盲點和謬誤一並復制進去。

人類的思維本來就有認知偏誤，行為也受各種無形的外力牽引。而在當今模式識別科技與引導式決策的相互作用之下，智能產品幫我們寫好了一切行為的劇本，人類選擇因此受到限縮。沃德提醒，如此一來，不僅不公不義的現象更加嚴重，人類創新的本能和思考的能力亦將大幅退化——這才是我們在面對智能科技時真正應該擔心的事情。

引言世代飛船

第一部分 第一個循環：世代沿襲的人類本能

第一章 意識與現實的鴻溝

第二章 錯覺

第三章 兩個系統

第四章 族群

第二部分 第二個循環：現代力量的操縱

第五章 導航系

第六章 循規蹈矩的生活

第三部分 第三個循環：人工智能的影響

第七章 人工智能不能做什麼

第八章 沉淪

第九章 循環

第十章 關鍵任務

第十一章 弱完美

第十二章 高等數學

引言（節選）

世代飛船

每當我們覺得生活在地球上的前景暗淡時，就忍不住打其他星球的主意。人類已經對地球進行了過度的開發，而且似乎難以團結一心拯救地球。既然如此，讓我們去別的地方重新開始吧。那麼另一顆適宜居住的星球離我們有多遠呢？

星際科學家們認為光年並不能被理解成速度，即車子行駛速度那樣的數值，那麼就只能是像我這樣的記者來大致推算人類要多久才能跨越這樣的距離。請給我一點耐心。

我們當前的火箭技術可以推動飛船以每小時2萬英裡左右的速度在太空飛行。火箭的速度對我們來說已經快得超乎想象了。在大氣層中，這樣的速度與周圍空氣的摩擦足以熔化我們所發明的任何物質，我們還沒開始討論要去哪裡和到了之後準備建些什麼，就已經被燒成灰燼了。但讓我們將這個速度作為基準，因為在太空中，如果我們要在相隔遙遠的行星之間穿行，這個速度顯然是太慢了。

火星與地球軌道相鄰，它是太陽系中除地球以外最適宜人類生存的星球。但其實這並不能說明什麼。誠然，其他星球的環境更糟。以木星為例，火箭如果穿越木星表面30英裡厚的云層，在大量易燃的氫氣和氦氣中，火箭發動機推力忽高忽低，然後火箭到達云層下方約1.3萬英裡處相同成分的液態層（這個液態層的存在讓我們對這片有毒的液態海洋下面有些什麼還一無所知）後，發動機就完全失靈了。宇航員們還沒出飛船就會溺死（也可能會被燒死，這種情況在地球上是不可想象的）。

火星相對來說是比較宜居的。火星上有穩定的落腳點。在火星上度過美好的一天可能真的感覺不錯。太陽高高掛在空中，氣溫大約是宜人的 68℉，就像舊金山或約翰內斯堡八月的一個晴朗的下午。但如果你剛好晚上在火星極地下了飛船，氣溫可能會低於-200℉，這個溫度會讓你立即被凍死，你的四肢會被凍得像易斷的樹枝一樣，一錘子下去就能敲個粉碎。我們不要忘了就算是在火星上最舒適的區域，也沒有可供呼吸的空氣，所以即使是在最宜人的日子裡，你也不能走遠。在低重力環境中，你大概只能在飛船附近50碼b以內的範圍活動，否則你就無法屏住呼吸，缺氧會讓你迷失方向，不能回到飛船上吸氧。你會失去知覺，身體抽搐，心臟停止跳動，紅色的灰塵慢慢飄落到你的尸體旁邊。

這就是科學家和記者都對系外行星如此感興趣的原因，作為太陽系以外的行星，系外行星似乎有著適宜人類生存的大氣層和表面。在過去幾年裡，現已退役的開普勒太空望遠鏡讓人類產生了源源不斷的樂觀幻想。開普勒太空望遠鏡其實無法看清遠太空的事物，系外行星過於遙遠不能直接對其拍攝清晰圖像，因此它會觀測遙遠恒星的光線經過行星旁時產生的彎折。根據恒星光線途經行星後產生的光線變化，天體物理學家不僅可以計算行星的大小，還可以計算它離光源多遠，這意味著我們可以根據行星體積，以及行星與恒星的距離這兩個值之間的關係，推測行星周圍是否存在著某種大氣層。

開普勒任務測量了大約 15 萬顆恒星的光線，發現了數百顆行星，它們的大小與恒星距離之比使它們成為供人類呼吸和居住的候選行星——雖然只是候選行星，但確實有可能成真。想象一下我們登上這些行星，四處逛逛，就地取材建一個小屋！考慮到太空的廣袤，最近的系外行星實際上還是相對較近的。

在我們開香檳慶祝並將積蓄投入 SpaceX 公司之前，讓我們想想怎樣才能去另一個星球。舉例來說，前往火星的旅程相對較短。根據它和地球在軌道上的位置推算，這段旅程可能需要 300—400天。但是人類從來沒有在太空中飛行過這麼長時間。目前登月之旅大約需要 72 小時，天體物理學家和醫學專家私底下議論說，20多名登月宇航員中沒有一人在旅途中遇難簡直是一個奇跡。而一次火星之旅會讓宇航員們整整一年都暴露在遠太空的危險中。危險簡直數不勝數。在行星之間的黑暗中，致命數量的輻射滲透了一切。太空中充滿了灰塵和沙礫，可能會使飛船癱瘓。（整個天體物理學領域都在研究星際介質，並指出，如果你像在高速公路上那樣從飛船的窗戶伸出一只戴著白手套的手，當你把手收回來時你就會發現手套已經沾上外面的東西變成了黑色。）另外想想看，如果一場災難導致船毀人亡，全球人民在延遲的電視廣播上看到這個痛苦過程之後，可能再也不想去火星了。

即使宇航員們一切順利，在很長的一段時間裡，他們也只能待在一個還沒有度假公寓大的空間裡。在疫情暴發的一年裡，我們與家人、室友，或是自己一個人被困在家裡，對於這種感受可以說深有體會。其實，在新冠病毒讓我們體驗了這種感覺之前，心理學家和後勤人員就已經對火星宇航員的身心健康感到憂慮，於是他們使用模擬的火星旅程和駐扎環境，觀察了整個旅程待在狹小空間的宇航員的狀態。觀察到的結果並不樂觀。這種模擬的沙丁魚形狀的環境，幾乎給每個人帶來了嚴重的創傷或疾病。多年以來，夏威夷島一個軍事基地的模擬火星棲息地進行了數次這樣的試驗，其中有一次，有個宇航員因為醫療原因不得不提前退出（試驗組織者尚未透露原因）。為了從這次經歷中吸取教訓，其他宇航員們假裝將退出的成員視為死者，並在模擬的火星凍土帶上放置了一具假尸體，在那裡它將被完美地保存起來，並被帶回地球安葬。在最後一次夏威夷模擬試驗中，一名宇航員被電線電擊，地面護理人員不得不進入模擬區域，用救護車將這位宇航員帶走，這對模擬試驗產生了干擾。先不談在火星上離群索居可能導致的身體問題，這些試驗已經表明……人們會舉止失常。這一試驗項目的心理學家告訴《大西洋月刊》（Atlantic）：“你可以選出一組完全符合要求的宇航員；但涉及人的事情，變量實在太多了，很難預測我們在各種情況下的表現。”

這還只是火星。從全宇宙的角度來看，火星就在我們隔壁。現在想象一下，我們試圖到達最近的系外行星是多麼荒謬的一件事情。

想象一下，我們一起站在美國國家航空航天局（NASA）位於奧蘭多附近的卡納維拉爾角的航空發射臺上，凝望著星星。在我寫這篇文章時，離地平線最近的星座是半人馬座。半人馬的前蹄是一顆明亮的星星。事實上，它是由三顆恒星組成的：半人馬座α 星 A、半人馬座 α 星 B、半人馬座 α 星 C（比鄰星），其中比鄰星是三顆恒星中最暗的。在這裡，用這個望遠鏡看。看到了嗎？你可以將它們區分開來。但我們看不到圍繞著幽暗的比鄰星旋轉的那顆行星。朋友，我希望我們能看到。因為那顆行星——比鄰星 b，是已知的離地球最近的系外行星。

我們不知道在比鄰星 b 生活會是什麼樣子，甚至連這個地方長什麼樣都無從得知。也可能會有種種原因，讓它並不適宜作為人類的棲居地。恒星風也許會將過多的輻射吹到它的表面，以至於我們還沒有建好第一個庇護所就中毒了，而這些風可能會帶走任何可呼吸的大氣，這意味著我們必須生活在地下。另外還存在一種可能性，這顆行星圍繞比鄰星公轉的方式也許會讓行星的一側永遠面向太陽，這意味著行星的一半始終是白天，另一半則一直被黑暗籠罩。

但我們不要放棄希望。想象一下，這裡十分宜居，有溫暖的風、液態的海洋，還有各種奇異、生動的風景——岩石、植被、外星的雪。讓我們去那裡！

好消息是，比鄰星 b 距離地球僅 4.2 光年。這意味著光（我們已知速度最快的東西，大約每秒 18.6 萬英裡）只需要 4.2 年就可以從地球傳播到比鄰星 b 風光奇異的海岸。對於光子來說，這是一次短途旅行。

壞消息是，對人類來說，這是一次漫長的旅行。我們無法以光速行進。我們的速度與光速相比有很大的差距。我們需要更長的時間才能到達那裡。事實上，到達比鄰星 b 需要耗費非常長的時間，地球上的人是無法到達比鄰星 b 的。

如果我們登上一艘宇宙飛船，從大氣層的外緣一直航行到比鄰星 b，你我作為從數十億人中篩選出的宇航員，有著健康而勻稱的體格，我們登上了這艘船，在航程達到 1/100 之前就會死去。這是一段極其漫長的旅程，人類的壽命僅占旅程的一小部分。

我們性能最好的現代火箭的速度為每小時 2 萬英裡，換算一下，4.2 光年相當於超過 13 萬年的太空旅行。

13 萬年意味著，在人類呼吸到外星的空氣之前，到達離我們最近的系外行星所花費的漫長時間裡，我們自己、我們的孩子，以及他們的孩子都早已化作了塵土。