深度學習進階：卷積神經網絡和對象檢測（簡體書）

本書介紹卷積神經網絡的核心――錯綜複雜的細節和算法的微妙之處。主要包括卷積神經網絡的高級主題和使用Keras和TensorFlow的對象檢測。本書旨在用一種實用的方法來處理一些高級主題，如遷移學習和多損失函數網絡，並在解釋這些概念的基礎上展示如何在Keras中實現這些功能。本書涉及多個研究領域，包含精練的代碼，能夠彌合初學者和研究者之間的鴻溝。

包含基於Keras和TensorFlow的YOLO算法完整實現

這是我寫的第二本書，它涵蓋了深度學習的高級主題。本書不是面向初學者，因此需要具備一些基礎知識才能理解。如果你是一位初學者，我建議你看看我出版的第一本書《深度學習：基於案例理解深度神經網絡》。要理解本書，你應該有一些中級到高級的Python深度學習經驗（以及一般的神經網絡經驗）。本書假設你知道正則化、超參數調整、小批量梯度下降，以及哪些優化器更有效（你如何理解Adam？），等等。書中還會大量使用Keras（來自TensorFlow），所以我建議你學習一些Keras的知識，這將有助於你學習書中的例子。
我試著用一種實用的方法來處理一些高級的主題，比如遷移學習或者多損失函數網絡。這意味著我將解釋這些概念，然後展示如何在Keras中實現這些功能。我花了很多時間準備代碼，你可以在GitHub存儲庫中找到它，所以你在閱讀本書的時候可以獲取並使用這些代碼。我們所要處理的高級主題的代碼太長，無法對其進行完整的討論，所以我只剖析最重要的部分。在GitHub中，你可以獲得所有的代碼。
雖然本書涉及多個研究領域，但並不是為經驗豐富的研究人員而寫。它是為那些想開始做研究的實踐者而寫，旨在彌合初學者和研究者之間的鴻溝。關於很高級的主題，比如物件檢測，我並沒有解釋太多的技術細節，否則本書將變成一本研究論文集。
請記住，我在書中描述的很多東西，比如YOLO物件檢測算法，都只有幾年的歷史。對於高級主題，理解算法的唯一方法是閱讀原始論文。你應該習慣在沒有書的情況下那樣做。在這裡，我盡力給你工具，闡述你閱讀研究論文所需要的語言。然後就靠你自己了。
如果你想進一步研究深度學習，你應該習慣閱讀研究論文。它們閱讀起來不容易，需要花費時間。但本書可以給你提供很多工具和提示信息，幫你開啟閱讀。閱讀並理解本書的所有內容，將會是你的研究生涯的開始。自此，你將學會閱讀研究論文。如果可能的話，試著重復論文作者所做的事情（大多數情況下，考慮到深度學習所需的基礎環境，你並不能重復別人的工作，但是你總可以嘗試）。如果你正在尋找在項目中使用特定算法的方法，那麼了解算法和閱讀研究論文將為你提供足夠的知識來進行項目評估，你還可以了解別人的研究現狀。
我希望你喜歡本書，希望你從中學到一些東西，希望它能幫助你，但我更希望你閱讀愉快，這比什麼都重要！

2019年7月3日於蘇黎世

前言
致謝
第1章　簡介和設置開發環境 1
1.1　GitHub存儲庫和配套網站 2
1.2　必備的數學知識 3
1.3　Python開發環境 3
1.3.1　Google Colab 4
1.3.2　Anaconda 6
1.3.3　Docker映像 14
1.3.4　你選擇哪個選項 18
第2章　TensorFlow：高級主題 20
2.1　Eager Execution簡介 21
2.1.1　啟用Eager Execution 21
2.1.2　Eager Execution多項式擬合 22
2.1.3　應用Eager Execution 的MNIST數據分類 26
2.2　TensorFlow和Numpy兼容性 30
2.3　硬件加速 30
2.3.1　檢測GPU的可用性 30
2.3.2　設備名稱 31
2.3.3　顯式設備使用 32
2.3.4　GPU加速器演示：矩陣乘法 33
2.3.5　MNIST示例上的GPU加速效果 34
2.4　僅特定層訓練 36
2.4.1　僅特定層訓練示例 37
2.4.2　層移除 40
2.5　Keras回調函數 42
2.5.1　自定義回調類 42
2.5.2　自定義回調類示例 44
2.6　模型存儲與加載 47
2.6.1　手動保存權重 52
2.6.2　保存整個模型 53
2.7　數據集抽象類 53
2.7.1　遍歷數據集 55
2.7.2　簡單批處理 56
2.7.3　使用MNIST數據集進行簡單批處理 57
2.7.4　在Eager Execution模式下使用tf.data.Dataset 60
2.8　本章小結 60
第3章　卷積神經網絡的基礎 61
3.1　核和過濾器 61
3.2　卷積 62
3.3　卷積示例 71
3.4　池化 77
3.5　CNN的構建基塊 81
3.5.1　卷積層 82
3.5.2　池化層 83
3.5.3　疊加層 84
3.6　CNN的權重數量 84
3.6.1　卷積層 84
3.6.2　池化層 85
3.6.3　稠密層 85
3.7　CNN的示例：MNIST數據集 85
3.8　CNN學習的可視化 89
3.8.1　keras.backend.function()簡介 89
3.8.2　核的作用效果 91
3.8.3　最大池化的作用效果 93
第4章　高級CNN與遷移學習 95
4.1　多通道卷積 95
4.2　初始網絡的歷史和基礎 98
4.2.1　初始模塊：初始版本 99
4.2.2　初始模塊中的參數數量 100
4.2.3　具有降維功能的初始模塊 100
4.3　多種成本函數：GoogLeNet 102
4.4　Keras中的初始模塊示例 103
4.5　偏離：Keras中的自定義損失 106
4.6　如何使用預先訓練過的網絡 108
4.7　遷移學習簡介 111
4.8　貓狗問題 114
4.8.1　遷移學習的經典方法 114
4.8.2　遷移學習實驗 120
第5章　成本函數與風格轉換 123
5.1　神經網絡模型的構成 123
5.1.1　訓練被視為優化問題 124
5.1.2　具體示例：線性回歸 125
5.2　成本函數 126
5.2.1　數學符號 126
5.2.2　典型成本函數 127
5.3　神經風格轉換 134
5.3.1　神經風格轉換背後的數學原理 135
5.3.2　Keras中的圖像風格轉換示例 139
5.3.3　使用神經風格轉換生成剪影 145
5.3.4　masking 146
第6章　物件分類簡介 148
6.1　什麼是物件定位 148
6.1.1　重要的可用數據集 150
6.1.2　交並比 152
6.2　一種簡單的物件定位方法：滑動窗口法 153
6.3　分類和定位 159
6.4　基於區域的卷積神經網絡 161
6.5　快速R-CNN 164
6.6　更快的R-CNN 165
第7章　物件定位：基於Python的實現 167
7.1　YOLO方法 167
7.1.1　YOLO工作機制 168
7.1.2　YOLOv2 170
7.1.3　YOLOv3 171
7.1.4　非極大值抑制 171
7.1.5　損失函數 172
7.2　YOLO在Python和OpenCV中的實現 173
7.2.1　YOLO的Darknet實現 173
7.2.2　應用Darknet測試物件檢測 175
7.3　為特定圖像訓練YOLO模型 180
7.4　本章小結 181
第8章　組織學組織分類 183
8.1　數據分析和準備 184
8.2　建立模型 192
8.3　數據增強 201
8.3.1　水平和垂直移動 202
8.3.2　垂直翻轉圖像 203
8.3.3　隨機旋轉圖像 204
8.3.4　圖像縮放 205
8.3.5　綜合操作 206
8.4　帶有數據增強的VGG16 206
8.4.1　fit()函數 207
8.4.2　fit_generator()函數 207
8.4.3　train_on_batch()函數 208
8.4.4　訓練網絡 208
8.5　現在好好享受 209