黃萱菁

本書共分四部分，第一部分詳細介紹大型語言模型的基礎理論知識，包括語言模型的定義、Transformer 結構，以及大型語言模型框架等內容，並以 LLaMA 所採用的模型結構為例的程式碼。第二部分主要介紹預訓練的相關內容，包括在模型分散式訓練中需要掌握的資料平行、流水線並行和模型平行等技術也介紹了ZeRO 最佳化，介紹預訓練資料分佈和資料預處理，以DeepSpeed 為例，介紹大型語言模型的預訓練。第三部分為大型語言模型在指令理解，如何在基礎模型的基礎上利用有監督微調和強化學習方法，理解指令並給出回答，包括高效微調方法、有監督微調資料構造方法、強化學習基礎和近端策略優化方法，並以 DeepSpeed-Chat和 MOSS-RLHF 為例訓練類 ChatGPT 系統。第四部分重點介紹了大型語言模型的擴充應用和評估。包括與外部工具和知識源連接的LangChain 技術。【本書看點】●LLM基礎，包括GPT、Transformer、LLAMA●常用的模型倉庫Huggingface的介紹●LLM的預訓練資料的介紹及整理●多GPU分散式訓練的基礎及實作●SFT有監督微調的應用實例及基礎，包括LORA、PEFT●強化學習在LLM中的應用，包括獎勵模型及PPO●LLM的應用，包括COT及LLM瑞士刀LangChain●用科學方式來評估LLM的能力

2023年ChatGPT火爆全球，以其為代表的人工智能大語言模型成為全球人工智能從業者關注的焦點。 本書詳細介紹了構建大語言模型的四個主要階段：預訓練、有監督微調、獎勵建模和強化學習。每個階段都有算法、代碼、數據、難點及實踐經驗的詳細討論。本書以大語言模型的基礎理論開篇，探討了大語言模型預訓練數據的構建方法，以及大語言模型如何理解並服從人類指令，介紹了大語言模型的擴展應用和評估方法，為讀者提供了更全面的視野。 本書旨在為對大語言模型感興趣的讀者提供入門指南，也可作為高年級本科生和研究生自然語言處理相關課程的補充教材。

本書主要包含基礎技術、核心技術以及模型分析三個部分。基礎技術部分介紹自然語言處理的基礎任務和底層技術，包含詞匯分析、句法分析、語義分析、篇章分析和語言模型；核心技術部分介紹自然語言處理應用任務和相關技術，主要包括信息抽取、機器翻譯、情感分析、智能問答、文本摘要、知識圖譜；模型分析部分介紹基於機器學習的自然語言處理模型的穩健性和可解釋性問題。