商品簡介
神經網絡在深度學習和人工智能中發揮著非常重要的作用，其應用領域非常廣泛，涵蓋從醫療診斷、財務預測到機器診斷等多個領域。
《神經網絡設計與實現》旨在指導你以實用的方式學習神經網絡。書中將簡要介紹感知器網絡，從而幫助你入門。然後，你將獲得有關機器學習的見解，並了解人工智能的未來。接下來，你將研究如何使用嵌入來處理文本數據，並學習長短期記憶網絡在解決常見自然語言處理問題中的作用。該書還將演示如何實現高級概念，包括遷移學習、生成對抗網絡、自編碼器和強化學習，以及有關神經網絡領域新進展的更多內容。
在完成該書的學習後，你將掌握構建、訓練和優化自己的神經網絡模型所需的技能，該模型能夠提供可預測的解決方案。通過閱讀該書，你將：
●了解如何使用反向傳播訓練網絡。
●了解遷移學習的概念，以使用Keras和VGG網絡解決任務。
●探索如何加載和轉換圖像以用於神經網絡。
●掌握LSTM和NLP等高級、復雜的深度學習概念，以掌握新知識。
●研究如何將神經網絡應用於多個領域。
●探索創新算法，例如生成對抗網絡和深度強化學習。
●解決神經網絡開發面臨的共同挑戰。
作者簡介
列奧納多·德·馬爾希
（Leonardo De Marchi）
目前是Badoo的數據科學家主管，Badoo是世界上的大型交友網站之一，擁有超過4億名用戶。他也是ideai.io（一家專門從事機器學習培訓的公司）的首席教練，為大型機構和有活力的初創企業提供技術和管理培訓。他擁有人工智能專業碩士學位，曾在體育界擔任數據科學家。
勞拉·米切爾
（Laura Mitchell）
目前是Badoo的首席數據科學家。Laura在NLP、圖像分類和推薦系統等項目的交付方面具有豐富的實踐經驗，包括從最初的構思到產品化。她熱衷於學習新技術並緊跟行業趨勢。
名人/編輯推薦
系統性——本書系統地整理了神經網絡的知識體系，從機器學習基礎、深度學習和高級應用領域三個層面來串聯神經網絡所涉及的知識點，使讀者對神經網絡技術的理解更具系統性、條理性和全面性。
可讀性——本書在編排上由淺入深，在語言表達上力求通俗易懂，並通過增加圖例、示例以及必要的數學推導來理解抽象的概念。同時提供了延伸閱讀，便於讀者查用。
實踐性——本書通過解決具體問題（如計算機視覺問題、NLP問題等）來介紹神經網絡和深度學習的核心理論。
序
譯 者 序
“暮色蒼茫看勁松，亂云飛渡仍從容。天生一個仙人洞，無限風光在險峰。”
深度學習自2006年正式提出以來，經過15年多的發展，無論是在理論還是在實際應用方面，都得到了突破性的進展。它使人工智能（AI）產生了革命性的突破，讓人們切實領略到人工智能給生活帶來改變的潛力。機器學習與深度學習因而成為很多AI公司、科研院所和高校的主要研究內容。
近年來，深度學習、遷移學習與強化學習已經成為獨立的研究分支，學術界和產業界在理論、算法和應用方面均取得了長足發展，深度學習+場景/強化學習+場景的AI產品已經給人類帶來了很多方便。
本書從機器學習基礎、深度學習應用和高級機器學習這三個方面入手，結合算法理論、代碼實現和應用場景，介紹了機器學習的新動向和新技術。全書分為三部分，第一部分為神經網絡入門。第1章主要介紹人工智能的歷史、機器學習概述和監督學習算法。第2章介紹神經網絡基礎、感知器、神經網絡以及FFNN算法實現。第二部分為深度學習應用。第3章主要介紹基於卷積神經網絡的圖像處理。第4章介紹文本挖掘。第5章介紹循環神經網絡。第6章介紹如何利用遷移學習重用神經網絡。第三部分為高級應用領域。第7章主要對生成對抗網絡的挑戰、發展變化和時間表進行了介紹，並實現了DCGAN、CycleGAN、ProGAN、StarGAN、StyleGAN等算法。第8章主要對自編碼器、損失函數和遇到的挑戰進行了介紹，並實現了變分自編碼器。第9章對深度置信網絡（DBN）的架構、訓練和調參進行了介紹。第10章主要講解了強化學習的基本定義，並介紹了Q-learning和冰湖問題。第11章首先對本書進行了總結，然後對人工智能和機器學習的未來進行了展望，其中包括對AI的可解釋性和安全性等問題的討論。
本書的翻譯工作由四川省農業科學院遙感應用研究所郭濤和吉林大學朱夢瑤發起並組建翻譯團隊完成。其中四川外國語大學成都學院餘秋琳負責第1、2和11章，北華航天工業學院趙子輝負責第3、4和5章，吉林大學朱夢瑤負責第8、9和10章，郭濤負責第6章、第7章和前言等內容，並由郭濤和朱夢瑤負責統稿、校對和審核。在此感謝所有參與本書的翻譯校對和技術審核的人員，感謝你們對本書的出版做出的貢獻。
鑒於本書涉及的廣度和深度，以及譯者團隊的水平，本書的翻譯難免有錯漏之處，歡迎各位讀者在閱讀過程中將本書的問題和勘誤提交至Github。
最後，感謝機械工業出版社華章分社的王春華編輯和李美瑩編輯，她們為保證本書的質量做了大量的編輯和校對工作，在此深表謝意。
郭 濤
2021年
目次
譯者序
前言
第一部分 神經網絡入門
第1章 有監督學習入門2
1.1 人工智能的歷史2
1.2 機器學習概述4
1.2.1 有監督學習4
1.2.2 無監督學習4
1.2.3 半監督學習5
1.2.4 強化學習5
1.3 配置環境6
1.3.1 了解虛擬環境7
1.3.2 Anaconda8
1.3.3 Docker9
1.4 Python有監督學習實踐9
1.5 特征工程11
1.6 有監督學習算法14
1.6.1 指標15
1.6.2 模型評估17
1.7 總結19
第2章 神經網絡基礎20
2.1 感知器20
2.2 Keras27
2.3 前饋神經網絡29
2.3.1 反向傳播介紹31
2.3.2 激活函數33
2.3.3 Keras實現36
2.4 從頭開始使用Python編寫FFNN40
2.4.1 FFNN的Keras實現43
2.4.2 TensorBoard45
2.4.3 XOR問題中的TensorBoard45
2.5 總結48
第二部分 深度學習應用
第3章 基於卷積神經網絡的圖像處理50
3.1 理解卷積神經網絡50
3.2 卷積層52
3.2.1 池化層55
3.2.2 丟棄層57
3.2.3 歸一化層57
3.2.4 輸出層57
3.3 Keras中的卷積神經網絡58
3.3.1 加載數據58
3.3.2 創建模型60
3.3.3 網絡配置60
3.4 Keras表情識別63
3.5 優化網絡68
3.6 總結70
第4章 利用文本嵌入71
4.1 面向NLP的機器學習71
4.2 理解詞嵌入73
4.2.1 詞嵌入的應用73
4.2.2 Word2vec74
4.3 GloVe80
4.3.1 全局矩陣分解80
4.3.2 使用GloVe模型82
4.3.3 基於GloVe的文本分類85
4.4 總結87
第5章 循環神經網絡88
5.1 理解循環神經網絡88
5.1.1 循環神經網絡原理90
5.1.2 循環神經網絡類型91
5.1.3 損失函數94
5.2 長短期記憶95
5.2.1 LSTM架構95
5.2.2 Keras長短期記憶實現98
5.3 PyTorch基礎知識102
5.4 總結106
第6章 利用遷移學習重用神經網絡107
6.1 遷移學習理論107
6.1.1 多任務學習介紹108
6.1.2 重用其他網絡作為特征提取器108
6.2 實現多任務學習108
6.3 特征提取110
6.4 在PyTorch中實現遷移學習110
6.5 總結116
第三部分 高級應用領域
第7章 使用生成算法118
7.1 判別算法與生成算法118
7.2 理解GAN120
7.2.1 訓練GAN121
7.2.2 GAN面臨的挑戰123
7.3 GAN的發展變化和時間線124
7.3.1 條件GAN125
7.3.2 DCGAN125
7.3.3 Pix2Pix GAN131
7.3.4 StackGAN132
7.3.5 CycleGAN133
7.3.6 ProGAN135
7.3.7 StarGAN136
7.3.8 BigGAN138
7.3.9 StyleGAN139
7.3.10 Deepfake142
7.3.11 RadialGAN143
7.4 總結144
7.5 延伸閱讀144
第8章 實現自編碼器146
8.1 自編碼器概述146
8.2 自編碼器的應用147
8.3 瓶頸和損失函數147
8.4 自編碼器的標準類型148
8.4.1 欠完備自編碼器148
8.4.2 多層自編碼器151
8.4.3 卷積自編碼器152
8.4.4 稀疏自編碼器155
8.4.5 去噪自編碼器156
8.4.6 收縮自編碼器157
8.5 變分自編碼器157
8.6 訓練變分自編碼器159
8.7 總結164
8.8 延伸閱讀164
第9章 DBN165
9.1 DBN概述165
9.1.1 貝葉斯置信網絡166
9.1.2 受限玻爾茲曼機167
9.2 DBN架構176
9.3 訓練DBN177
9.4 微調179
9.5 數據集和庫179
9.5.1 示例—有監督的DBN分類180
9.5.2 示例—有監督的DBN回歸181
9.5.3 示例—無監督的DBN分類182
9.6 總結183
9.7 延伸閱讀183
第10章 強化學習184
10.1 基本定義184
10.2 Q-learning介紹187
10.2.1 學習目標187
10.2.2 策略優化188
10.2.3 Q-learning方法188
10.3 使用OpenAI Gym188
10.4 冰湖問題191
10.5 總結199
第11章 下一步是什麼200
11.1 本書總結200
11.2 機器學習的未來201
11.3 通用人工智能202
11.3.1 AI倫理問題203
11.3.2 可解釋性203
11.3.3 自動化204
11.3.4 AI安全性204
11.3.5 問責制205
11.4 結語205
書摘/試閱
前 言
從醫療診斷到金融預測，甚至是機器診斷，神經網絡（Neural Network，NN）的應用範圍非常廣泛，在深度學習和人工智能（Artificial Intelligence，AI）中發揮著非常重要的作用。
本書旨在指導讀者以實踐的方式學習神經網絡。書中首先會簡要介紹感知器網絡，為你後面的學習奠定基礎。然後，你可以開始了解機器學習及AI的未來。接下來，你將學習如何使用嵌入技術來處理文本數據，以及長短期記憶（Long Short-Term Memory，LSTM）網絡在解決常見自然語言處理（Natural Language Processing，NLP）問題時的作用。後面的章節將演示如何實現高級概念，包括遷移學習、生成對抗網絡（Generative Adversarial Network，GAN）、自編碼器（Autoencoder，AE）和強化學習（Reinforcement Learning，RL）。最後，你還可以了解更多神經網絡領域的最新進展。
通過閱讀本書，讀者可以掌握構建、訓練和優化自己的神經網絡模型的技能，這些神經網絡能夠提供可預測的解決方案。
本書目標讀者
本書為中階書籍，適合對AI和深度學習感興趣並且想進一步提高技能的讀者閱讀。
本書結構
第1章涵蓋AI（尤其是深度學習）的總體情況。還會介紹從數據變換到評估結果的一系列主要的機器學習概念，這在接下來的深度學習應用章節中非常有用。
第2章介紹深度學習的基礎知識及其背後的數學原理。我們還將探索感知器和梯度下降等方面的概念，以及它們背後的數學原理。然後，我們將舉例說明如何用它們來構建神經網絡，以解決分類問題。
第3章介紹用於解決特定領域問題的更復雜的網絡架構。特別是，我們將研究解決某些計算機視覺問題的一些技術。還將介紹預訓練的網絡如何減少創建和訓練神經網絡所需的時間。
第4章展示如何將深度學習用於NLP任務，尤其是如何使用嵌入來處理文本數據。此外，本章還會講解其背後的理論以及一些實際用例。
第5章介紹一種更復雜的網絡—RNN，以及其背後的數學原理和概念。特別是，我們將專注於LSTM以及如何將其用於解決NLP問題。
第6章介紹遷移學習。遷移學習是一種將學習泛化到不同的任務，而不僅限於其學習以解決的任務的模型能力。我們還將看到一個使用預訓練網絡的遷移學習具體示例，通過Keras和著名的VGG網絡解決我們的特定問題。
第7章介紹過去十年中機器學習最具創新性的概念之一—GAN。我們將學到GAN的工作原理以及它們背後的數學原理。我們還將提供一個示例，說明如何實現一個GAN來生成簡單的手寫數字。
第8章討論什麼是自編碼器、其背後的數學原理，以及它可以解決哪些問題。特別是，我們將研究如何改進簡單的自編碼器算法，以及如何通過Keras用自編碼器生成簡單的手寫數字。
第9章討論什麼是深度置信網絡（DBN）、其背後的數學原理，以及它們可以解決的問題。
第10章從基本概念（例如蒙特卡洛方法和馬爾可夫鏈方法）開始介紹RL。然後，我們將介紹傳統的RL方法以及深度學習是如何改善和振興這個領域的。
第11章簡要總結本書中涉及的所有主題。我們還將向讀者提供其他可參考材料的詳細信息。最後，我們還將簡述神經網絡領域可以期待的最新進展。
如何充分利用本書
具備一些統計學知識將有助於你更充分地利用本書。
下載示例代碼及彩色圖像
本書的示例代碼及所有截圖和樣圖，可以訪問華章圖書官網，通過注冊並登錄個人賬號下載。
本書的代碼包也托管在GitHub上。如果代碼有更新，將在已有的GitHub倉庫中進行更新。
我們還提供PDF文件，其中包含本書中使用的屏幕截圖或圖表的彩色圖像。
本書約定
本書中使用了許多排版約定。
CodeInText（代碼體）：書中的代碼、數據庫表名稱、文件夾名稱、文件名、文件擴展名、路徑名、用戶輸入和推特用戶名均用代碼體表示。例如：“我們選擇使用tanh作為激活函數。”
代碼塊格式如下：
在需要你特別注意的部分，相關的代碼行或代碼項將以粗體顯示：
命令行輸入或輸出的格式如下：
表示警告或重要提示。
表示提示和技巧。
您曾經瀏覽過的商品
購物須知
大陸出版品因裝訂品質及貨運條件與台灣出版品落差甚大，除封面破損、內頁脫落等較嚴重的狀態，其餘商品將正常出貨。
特別提醒：部分書籍附贈之內容(如音頻mp3或影片dvd等)已無實體光碟提供，需以QR CODE 連結至當地網站註冊“並通過驗證程序”，方可下載使用。
無現貨庫存之簡體書，將向海外調貨：
海外有庫存之書籍，等候約45個工作天;
海外無庫存之書籍，平均作業時間約60個工作天，然不保證確定可調到貨，尚請見諒。
為了保護您的權益，「三民網路書店」提供會員七日商品鑑賞期(收到商品為起始日)。
若要辦理退貨，請在商品鑑賞期內寄回，且商品必須是全新狀態與完整包裝(商品、附件、發票、隨貨贈品等)否則恕不接受退貨。