貝葉斯方法：概率編程與貝葉斯推斷（簡體書）

Cameron Davidson-Pilon，接觸過數學在多個領域的應用——從基因和疾病的動態演化，到金融價格的隨機模型。他對於開源社區主要的貢獻包括這本書以及lifelines項目。Cameron成長於加拿大的安大略省圭爾夫市，而就讀於滑鐵盧大學以及莫斯科獨立大學。如今他住在安大略省渥太華市，並在電商領軍者Shopify工作。

譯者
辛願，浙江大學碩士畢業，騰訊公司基礎研究高級工程師，輿情系統開發經理。曾在百度從事推薦系統、用戶畫像、數據採集等相關研究工作，擁有多項專利，組織過上海大數據技術沙龍。目前專注於文本挖掘、輿情分析、智能聊天機器人等相關領域。

鐘黎，騰訊公司研究員。曾在中國科學院、微軟亞洲研究院、IBM研究院（新加坡）從事圖像處理、語音處理、機器學習等相關研究工作，擁有多項專利，目前聚焦在自然語言處理、深度學習和人工智能等相關領域。

歐陽婷，華南理工大學碩士畢業，騰訊公司後台策略工程師。在電信、互聯網行業參與過推薦系統、資源優化、KPI預測、用戶畫像等相關項目，擁有多項專利，目前聚焦在欺詐檢測、時序分析、業務安全等相關領域。

審校者
余凱博士，地平線機器人技術創始人、CEO，國際傑出機器學習專家，***國家“****”專家，中國人工智能學會副秘書長。餘博士是前百度研究院執行院長，創建了百度深度學習研究院。他在百度所領導的團隊在廣告變現、搜索排序、語音識別、計算機視覺等領域做出傑出貢獻，創紀錄地連續三次獲得公司高榮譽——“百度獎”。他還創建了中國公司自動駕駛項目，後發展為百度自動駕駛事業部。

岳亞丁博士，騰訊公司專家研究員，騰訊技術職級評委會基礎研究崗位的負責委員。岳博士擁有19年在金融、電信、互聯網行業的數據挖掘經驗，主導或參與過用戶畫像、在線廣告、推薦系統、CRM、欺詐檢測、KPI預測等多種項目。他曾在微軟（加拿大）從事行為定向廣告的模型研發，另有11年的工程結構、海洋水文氣象的力學研究及應用的工作經歷。

·國際傑出機器學習專家、地平線機器人技術創始人和CEO、前百度研究院執行院長余凱博士，騰訊專家研究員岳亞丁博士推薦、審校
·內容涉及Python語言庫PyMC，以及相關的工具，包括NumPy\SciPy\Matplotlib，無需複雜的數學分析，通過實例、從編程的角度介紹貝葉斯分析方法，大多數程序員都可以入門並掌握。

本書的內容特色：
·學習貝葉斯思維方式
·理解計算機如何進行貝葉斯推斷
·利用PyMC Python庫進行編程來實現貝葉斯分析
·利用PyMC建模以及調試
·測試模型的擬合優度
·打開馬爾科夫鏈蒙特卡洛算法的黑盒子，看看它如何工作
·利用大數定律的力量
·掌握聚類、收斂、自相關、細化等關鍵概念
·根據目標和預期的結果，利用損失函數來推斷缺陷
·選擇合理的先驗，並理解其如何隨著樣本量的大小而變化
·克服“研發與開發”的困境：判斷是否已經足夠好了
·利用貝葉斯推斷改良A/B測試
·在可用數據量小的情況下，解決數據科學的問題

目錄

第1章貝葉斯推斷的哲學1
1．1引言1
1．1．1貝葉斯思維1
1．1．2貝葉斯推斷在實踐中的運用3
1．1．3頻率派的模型是錯誤的嗎？4
1．1．4關於大數據4
1．2我們的貝葉斯框架5
1．2．1不得不講的實例：拋硬幣5
1．2．2實例：圖書管理員還是農民6
1．3概率分佈8
1．3．1離散情況9
1．3．2連續情況10
1．3．3什麼是12
1．4使用計算機執行貝葉斯推斷12
1．4．1實例：從短信數據推斷行為12
1．4．2介紹我們的第一板斧：PyMC 14
1．4．3說明18
1．4．4後驗樣本到底有什麼用？18
1．5結論20
1．6補充說明20
1．6．1從統計學上確定兩個l值是否真的不一樣20
1．6．2擴充到兩個轉折點22
1．7習題24
1． 8答案24
第2章進一步了解PyMC 27
2．1引言27
2．1．1父變量與子變量的關係27
2．1．2 PyMC變量28
2．1．3在模型中加入觀測值31
2．1．4 **後…… 33
2．2建模方法33
2．2．1同樣的故事，不同的結局35
2．2．2實例：貝葉斯A/B測試38
2．2．3一個簡單的場景38
2．2．4 A和B一起41
2．2．5實例：一種人類謊言的算法45
2．2．6二項分佈45
2．2．7實例：學生作弊46
2．2．8另一種PyMC模型50
2．2．9更多的PyMC技巧51
2．2．10實例：挑戰者號事故52
2．2．11正態分佈55
2．2．12挑戰者號事故當天發生了什麼？61
2．3我們的模型適用嗎？61
2．4結論68
2．5補充說明68
2．6習題69
2．7答案69
第3章打開MCMC的黑盒子71
3．1貝葉斯景像圖71
3．1．1使用MCMC來探索景象圖77
3．1．2 MCMC算法的實現78
3．1．3後驗的其他近似解法79
3．1．4實例：使用混合模型進行無監督聚類79
3．1．5不要混淆不同的後驗樣本88
3．1．6使用MAP來改進收斂性91
3．2收斂的判斷92
3．2．1自相關92
3．2．2稀釋95
3．2．3 pymc．Matplot．plot() 97
3．3 MCMC的一些秘訣98
3．3．1聰明的初始值98
3．3．2先驗99
3．3．3統計計算的無名定理99
3．4結論99
第4章從未言明的**偉大定理101
4．1引言101
4．2大數定律101
4．2．1直覺101
4．2．2實例：泊松隨機變量的收斂102
4．2．3如何計算Var( Z) 106
4．2．4期望和概率106
4．2．5所有這些與貝葉斯統計有什麼關係呢107
4．3小數據的無序性107
4．3．1實例：地理數據聚合107
4．3．2實例：Kaggle的美國人口普查反饋比例預測比賽109
4．3．3實例：如何對Reddit網站上的評論進行排序111
4．3．4排序！115
4．3．5但是這樣做的實時性太差了117
4．3．6推廣到評星系統122
4．4結論122
4．5補充說明122
4．6習題123
4．7答案124
第5章失去一隻手臂還是一條腿127
5．1引言127
5．2損失函數127
5．2．1現實世界中的損失函數129
5．2．2實例：優化“價格競猜”遊戲的展品出價130
5．3機器學習中的貝葉斯方法138
5．3．1實例：金融預測139
5．3．2實例：Kaggle觀測暗世界大賽144
5．3．3數據145
5．3．4先驗146
5．3．5訓練和PyMC實現147
5．4結論156
第6章弄清楚先驗157
6．1引言157
6．2主觀與客觀先驗157
6．2．1客觀先驗157
6．2 ．2主觀先驗158
6．2．3決策，決策…… 159
6．2．4經驗貝葉斯160
6．3需要知道的有用的先驗161
6．3．1 Gamma分佈161
6．3． 2威沙特分佈162
6．3．3 Beta分佈163
6．4實例：貝葉斯多臂老虎機164
6．4．1應用165
6．4．2一個解決方案165
6．4．3好壞衡量標準169
6．4．4擴展算法173
6．5從領域專家處獲得先驗分佈176
6．5．1試驗輪盤賭法176
6．5．2實例：股票收益177
6．5．3對於威沙特分佈的專業提示184
6．6共軛先驗185
6．7杰弗里斯先驗185
6．8當N增加時對先驗的影響187
6．9結論189
6．10補充說明190
6．10．1帶懲罰的線性回歸的貝葉斯視角190
6．10．2選擇退化的先驗192
第7章貝葉斯A/B測試195
7．1引言195
7．2轉化率測試的簡單重述195
7．3增加一個線性損失函數198
7．3．1收入期望的分析198
7．3．2延伸到A/B測試202
7．4超越轉化率：t檢驗204
7．4．1 t檢驗的設定204
7．5增幅的估計207
7．5．1創建點估計210
7．6結論211
術語表213