Python遷移學習（簡體書）

遷移學習是機器學習技術的一種，它可以從一系列機器學習問題的訓練中獲得知識，並將這些知識用於訓練其他相似類型的問題。
本書分為3個部分：第1部分是深度學習基礎，介紹了機器學習的基礎知識、深度學習的基礎知識和深度學習的架構；第2部分是遷移學習精要，介紹了遷移學習的基礎知識和遷移學習的威力；第3部分是遷移學習案例研究，介紹了圖像識別和分類、文本文檔分類、音頻事件識別和分類、DeepDream算法、風格遷移、自動圖像掃描生成器、圖像著色等內容。
本書適合數據科學家、機器學習工程師和數據分析師閱讀，也適合對機器學習和遷移學習感興趣的讀者閱讀。在閱讀本書之前，希望讀者對機器學習和Python編程有基本的掌握。

迪潘簡·撒卡爾（Dipanjan Sarkar），英特爾公司的一名數據科學家，他利用數據科學、機器學習和深度學習來構建大規模的智能系統。他擁有數據科學和軟件工程專業的碩士學位。
他從事分析工作多年，專攻機器學習、自然語言處理（Natural Language Processing，NLP）、統計方法和深度學習。他對教育充滿熱情，同時還在Springboard等組織中擔任數據科學導師，幫助人們學習數據科學。他還是人工智能和數據科學領域的領先在線期刊《面向數據科學》的主要編著者和編輯，他還編寫了幾本關於R、Python、機器學習、NLP和深度學習的書。
拉格哈夫·巴利（Raghav Bali），Optum的數據科學家。他的工作涉及研究和開發基於機器學習、深度學習和NLP的企業級解決方案，用於醫療和保險領域的相關用例。之前在英特爾公司的工作中，他參與了數據主動驅動IT的提案。他還曾在企業資源計劃（Enterprise Resource Planning，ERP）和金融領域的一些****的組織工作。他已經和一些優秀的出版社合作出版了多本書籍。
Raghav在班加羅爾國際信息技術學院作為優秀畢業生獲得了信息技術碩士學位。他熱愛閱讀，在工作不忙時，他是一個熱衷於捕捉生活瞬間的攝影愛好者。
塔莫格納·戈什（Tamoghna Ghosh），英特爾公司的機器學習工程師。他共有11年的工作經驗，其中包括4年在微軟印度研究院的核心研究經驗。在微軟研究院期間，他曾擔任分組密碼的密碼分析的研究助理。
他的技術專長包括大數據、機器學習、NLP、信息檢索、數據可視化和軟件開發。他在加爾各答印度統計研究所獲得了工學碩士（計算機科學）學位，在加爾各答大學獲得了理學碩士（數學）學位。他的專業研究領域為功能性分析、數學建模以及動態系統。他對教學工作充滿熱情，並為英特爾公司開展了不同級別的數據科學內部培訓。

1. 快速掌握知識點
本書能帶你厘清機器學習和深度學習的關鍵基本概念，對重要的深度學習架構進行描述，卷積神經網絡、深度神經網絡、遞歸神經網絡、長短時記憶神經網絡以及膠囊網絡都有所涉及。
2. 用實操夯實遷移學習理論
通過閱讀本書，讀者能夠深刻理解遷移學習的相關概念，並結合相關的編程案例掌握模型凍結、模型調優、預訓練模型（包括VGG模型、Inception模型和ResNet模型）等。
3. 掌握實用技能
本書集中討論了大量現實世界中不同領域的案例和問題，例如計算機視覺、音頻分析以及自然語言處理。

第 1部分 深度學習基礎
第 1章 機器學習基礎 2
1.1 什麼是機器學習 3
1.1.1 機器學習的正式定義 4
1.1.2 淺層學習和深度學習 4
1.2 機器學習算法 5
1.2.1 監督學習 6
1.2.2 無監督學習 9
1.3 CRISP-DM 11
1.3.1 業務理解 12
1.3.2 數據理解 12
1.3.3 數據準備 13
1.3.4 建模 13
1.3.5 評估 13
1.3.6 部署 14
1.4 標準機器學習工作流 14
1.4.1 數據檢索 15
1.4.2 數據準備 15
1.4.3 建模 16
1.4.4 模型評估和調優 17
1.4.5 部署和監控 21
1.5 探索性數據分析 22
1.6 特徵提取和特徵工程 29
1.7 特徵選擇 33
1.8 總結 34
第 2章 深度學習精要 35
2.1 什麼是深度學習 35
2.2 深度學習框架 37
2.3 創建一個支持GPU的雲端深度學習環境 40
2.3.1 選擇一個雲供應商 41
2.3.2 設置虛擬服務器 41
2.3.3 配置虛擬服務器 45
2.3.4 安裝和升級深度學習依賴項 47
2.3.5 訪問深度學習雲環境 52
2.3.6 在深度學習環境中驗證啟用GPU 53
2.4 創建一個支持GPU的、健壯的內部深度學習環境 55
2.5 神經網絡基礎 55
2.5.1 一個簡單的線性神經元 55
2.5.2 基於梯度的最優化問題 56
2.5.3 雅可比矩陣和海森矩陣 60
2.5.4 導數的鏈式法則 61
2.5.5 隨機梯度下降法 61
2.5.6 非線性神經單元 64
2.5.7 學習一個簡單的非線性單元――邏輯單元 66
2.5.8 損失函數 67
2.5.9 數據表示 68
2.5.10 多層神經網絡 71
2.5.11 反向傳播――訓練深度神經網絡 73
2.5.12 神經網絡學習中的挑戰 75
2.5.13 模型參數初始化 78
2.5.14 提升SGD 80
2.5.15 神經網絡的過擬合和欠擬合 81
2.5.16 神經網絡的超參數 84
2.6 總結 85
第3章 理解深度學習架構 86
3.1 神經網絡架構 86
3.2 各種神經網絡架構 88
3.2.1 多層感知機和深度神經網絡 88
3.2.2 自編碼神經網絡 88
3.2.3 變分自編碼器 89
3.2.4 生成式對抗網絡 91
3.2.5 卷積神經網絡 93
3.2.6 膠囊網絡 103
3.2.7 遞歸神經網絡 107
3.2.8 記憶神經網絡 114
3.2.9 神經圖靈機 117
3.2.10 基於注意力的神經網絡模型 121
3.3 總結 122
第 2部分 遷移學習精要

第4章 遷移學習基礎 124
4.1 遷移學習簡介 124
4.2 遷移學習策略 127
4.3 遷移學習和深度學習 129
4.3.1 遷移學習方法論 130
4.3.2 預訓練模型 131
4.3.3 應用 131
4.4 深度遷移學習類型 132
4.4.1 領域適應 132
4.4.2 領域混淆 132
4.4.3 多任務學習 133
4.4.4 一次性學習 133
4.4.5 零樣本學習 134
4.5 遷移學習的挑戰 134
4.5.1 負向遷移 134
4.5.2 遷移邊界 135
4.6 總結 135
第5章 釋放遷移學習的威力 136
5.1 遷移學習的必要性 137
5.1.1 闡述現實世界問題 137
5.1.2 構建數據集 138
5.1.3 描述方法 140
5.2 從零開始構建CNN模型 140
5.2.1 基本CNN模型 143
5.2.2 正則化的CNN模型 146
5.2.3 圖像增強的CNN模型 148
5.3 使用預訓練的CNN模型利用遷移學習 153
5.3.1 理解VGG-16模型 154
5.3.2 作為特徵提取器的預訓練CNN模型 156
5.3.3 作為特徵提取器並使用圖像增強的預訓練CNN模型 162
5.3.4 使用微調和圖像增強的預訓練CNN模型 164
5.4 評估我們的深度學習模型 168
5.4.1 模型在一個樣本測試圖像上進行預測 168
5.4.2 將CNN模型的感知可視化 170
5.4.3 在測試數據上評估模型性能 174
5.5 總結 177
第3部分 遷移學習案例研究

第6章 圖像識別和分類 180
6.1 基於深度學習的圖像分類 180
6.2 基準數據集 181
6.3 最先進的深度圖像分類模型 182
6.4 圖像分類和遷移學習 183
6.4.1 CIFAR-10數據集 183
6.4.2 犬種鑒定數據集 189
6.5 總結 199
第7章 文本文檔分類 200
7.1 文本分類 201
7.1.1 傳統文本分類 201
7.1.2 BoW模型的缺點 202
7.1.3 基準數據集 203
7.2 單詞表示形式 204
7.2.1 Word2vec模型 204
7.2.2 使用gensim框架的Word2vec模型 205
7.2.3 GloVe模型 208
7.3 CNN文檔模型 210
7.3.1 構建一個評論情感分類器 216
7.3.2 哪些單詞嵌入變化最大 220
7.3.3 遷移學習在IMDB數據集中的應用 220
7.3.4 使用Wordvec嵌入在完整的IMDB數據集上進行訓練 223
7.3.5 使用CNN模型創建文檔摘要 224
7.3.6 使用CNN模型進行多類別分類 228
7.3.7 文檔嵌入可視化 231
7.4 總結 233
第8章 音頻事件識別和分類 234
8.1 理解音頻事件分類 235
8.2 音頻事件的探索性分析 236
8.3 音頻事件的特徵工程和表示方法 245
8.4 使用遷移學習進行音頻事件分類 249
8.4.1 根據基本特徵構建數據集 250
8.4.2 利用遷移學習進行特徵提取 251
8.4.3 構建分類模型 253
8.4.4 評估分類器的性能 257
8.5 構建一個深度學習音頻事件識別器 260
8.6 總結 263
第9章 DeepDream 264
9.1 介紹 264
9.1.1 計算機視覺中的算法幻想性視錯覺 265
9.1.2 可視化特徵圖 267
9.2 DeepDream算法 273
9.3 總結 277
第 10章 風格遷移 278
10.1 理解神經風格遷移 279
10.2 圖像預處理方法 280
10.3 構建損失函數 282
10.3.1 內容損失 282
10.3.2 風格損失 283
10.3.3 總變差損失 283
10.3.4 總體損失函數 284
10.4 創建一個自定義優化器 285
10.5 風格遷移實戰 286
10.6 總結 290
第 11章 自動圖像掃描生成器 291
11.1 理解圖像描述 292
11.2 明確目標 293
11.3 理解數據 294
11.4 構建自動圖像描述系統的方法 295
11.4.1 概念方法 295
11.4.2 實際動手的方法 299
11.5 使用遷移學習的圖像特徵提取 301
11.6 為描述構建一個詞匯表 306
11.7 構建一個圖像描述數據集生成器 308
11.8 構建圖像語言編碼器-解碼器深度學習模型 314
11.9 訓練圖像描述深度學習模型 316
11.10 評估圖像描述深度學習模型 320
11.10.1 加載數據和模型 320
11.10.2 理解貪婪搜索和集束搜索 321
11.10.3 實現一個基於集束搜索的描述生成器 321
11.10.4 理解並實現BLEU分數 323
11.10.5 在測試數據上評估模型性能 324
11.11 自動圖像描述實戰 327
11.11.1 戶外場景樣本圖像描述 329
11.11.2 流行運動樣本圖像描述 332
11.11.3 未來的改進空間 334
11.12 總結 334
第 12章 圖像著色 335
12.1 問題陳述 336
12.2 彩色圖像 336
12.2.1 顏色理論 337
12.2.2 顏色模型和顏色
空間 337
12.2.3 重審問題陳述 339
12.3 構建一個著色深度神經網絡 341
12.3.1 預處理 341
12.3.2 損失函數 342
12.3.3 編碼器 343
12.3.4 遷移學習――特徵提取 344
12.3.5 融合層 344
12.3.6 解碼器 345
12.3.7 後處理 347
12.3.8 訓練和結果 348
12.4 挑戰 350
12.5 進一步改進 350
12.6 總結 350