README

Happy-LLM



  
  
  
  
  



  




中文 | English




  📚 在线阅读地址
  📚 从零开始构建大模型
  深入理解 LLM 核心原理，动手实现你的第一个大模型


---

 🎯 项目介绍

   很多小伙伴在看完 Datawhale开源项目： self-llm 开源大模型食用指南 后，感觉意犹未尽，想要深入了解大语言模型的原理和训练过程。于是我们（Datawhale）决定推出《Happy-LLM》项目，旨在帮助大家深入理解大语言模型的原理和训练过程。

  本项目是一个系统性的 LLM 学习教程，将从 NLP 的基本研究方法出发，根据 LLM 的思路及原理逐层深入，依次为读者剖析 LLM 的架构基础和训练过程。同时，我们会结合目前 LLM 领域最主流的代码框架，演练如何亲手搭建、训练一个 LLM，期以实现授之以鱼，更授之以渔。希望大家能从这本书开始走入 LLM 的浩瀚世界，探索 LLM 的无尽可能。

 ✨ 你将收获什么？

- 📚 Datawhale 开源免费 完全免费的学习本项目所有内容
- 🔍 深入理解 Transformer 架构和注意力机制
- 📚 掌握 预训练语言模型的基本原理
- 🧠 了解 现有大模型的基本结构
- 🏗️ 动手实现 一个完整的 LLaMA2 模型
- ⚙️ 掌握训练 从预训练到微调的全流程
- 🚀 实战应用 RAG、Agent 等前沿技术

 📖 内容导航

| 章节 | 关键内容 | 状态 |
| --- | --- | --- |
| 学习与环境准备 | 分章依赖、硬件建议与实践入口 | ✅ |
| 前言 | 本项目的缘起、背景及读者建议 | ✅ |
| 第一章 NLP 基础概念 | 什么是 NLP、发展历程、任务分类、文本表示演进 | ✅ |
| 第二章 Transformer 架构 | 注意力机制、Encoder-Decoder、手把手搭建 Transformer | ✅ |
| 第三章 预训练语言模型 | Encoder-only、Encoder-Decoder、Decoder-Only 模型对比 | ✅ |
| 第四章 大语言模型 | LLM 定义、训练策略、涌现能力分析 | ✅ |
| 第五章 动手搭建大模型 | 实现 LLaMA2、训练 Tokenizer、预训练小型 LLM | ✅ |
| 第六章 大模型训练实践 | 预训练、有监督微调、LoRA/QLoRA 高效微调 | ✅ |
| 第七章 大模型应用 | 模型评测、RAG 检索增强、Agent 智能体 | ✅ |
| 第八章 Agentic-RL  | GRPO、OPD、Search-R1、ReTool（Coding Agent-RL） | ✅ |
| Extra Chapter LLM Blog | 优秀的大模型 学习笔记/Blog ，欢迎大家来 PR ！| 🚧 |

 第六章正文已覆盖 Pretrain、SFT 与 PEFT 等核心训练流程，建议结合 第六章实践说明 和 学习与环境准备 一起阅读。

 第八章聚焦 GRPO、OPD、Search-R1 与 ReTool。更多 Agentic RL 算法、训练代码与实验实践，可以前往作者持续维护的另一个仓库 agentic-rl-lab；该仓库更新频率更高，会持续跟进新的算法与环境。

 Extra Chapter LLM Blog

- 大模型都这么厉害了，微调0.6B的小模型有什么意义？ @不要葱姜蒜 2025-7-11

- Transformer 整体模块设计解读 @ditingdapeng 2025-7-14

- 文本数据处理详解 @蔡鋆捷 2025-7-14

- Qwen3-"VL"——超小中文多模态模型的“拼接微调”之路 @ShaohonChen 2025-7-30

- S1: Thinking Budget with vLLM @不要葱姜蒜 2025-8-03


- CDDRS: 使用细粒度语义信息指导增强的RAG检索方法 @Hongru0306 2025-8-21

- 大模型生成 Token 的方式有哪些？ @不要葱姜蒜 2025-10-17


   如果大家在学习 Happy-LLM 项目或 LLM 相关知识中有自己独到的见解、认知、实践，欢迎大家 PR 在 Extra Chapter LLM Blog 中。请遵守 Extra Chapter LLM Blog 的 PR 规范，我们会视 PR 内容的质量和价值来决定是否合并或补充到 Happy-LLM 正文中来。

 模型下载

| 模型名称 | 下载地址 |
| --- | --- |
| Happy-LLM-Chapter5-Base-215M | 🤖 ModelScope |
| Happy-LLM-Chapter5-SFT-215M | 🤖 ModelScope |

 ModelScope 创空间体验地址：🤖 创空间


 PDF 版本下载

  本 Happy-LLM PDF 教程完全开源免费。为防止各类营销号加水印后贩卖给大模型初学者，我们特地在 PDF 文件中预先添加了不影响阅读的 Datawhale 开源标志水印，敬请谅解～

 Happy-LLM PDF : https://github.com/datawhalechina/happy-llm/releases/tag/v1.0.2  

 PPT 资源下载

  本项目配套教学讲义PPT课件资源获取链接：https://github.com/HZAI-ZJNU/happy-llm-ppt 或可在本项目的 Releases 页面下载。

 💡 如何学习

  本项目适合大学生、研究人员、LLM 爱好者。在学习本项目之前，建议具备一定的编程经验，尤其是要对 Python 编程语言有一定的了解。最好具备深度学习的相关知识，并了解 NLP 领域的相关概念和术语，以便更轻松地学习本项目。

  如果你计划复现章节代码，建议先阅读 学习与环境准备。仓库当前按章节拆分依赖，不同章节建议使用独立的 Python 环境，以减少版本冲突。

  本项目分为两部分——基础知识与实战应用。第1章～第4章是基础知识部分，从浅入深介绍 LLM 的基本原理。其中，第1章简单介绍 NLP 的基本任务和发展，为非 NLP 领域研究者提供参考；第2章介绍 LLM 的基本架构——Transformer，包括原理介绍及代码实现，作为 LLM 最重要的理论基础；第3章整体介绍经典的 PLM，包括 Encoder-Only、Encoder-Decoder 和 Decoder-Only 三种架构，也同时介绍了当前一些主流 LLM 的架构和思想；第4章则正式进入 LLM 部分，详细介绍 LLM 的特点、能力和整体训练过程。第5章～第8章是实战应用部分，将逐步带领大家深入 LLM 的底层细节。其中，第5章将带领大家基

Top issues

Latest release

Happy-LLM v1.0.2 0129 PPT 发布！

- 新增配套教学讲义PPT课件资源。

  _本 Happy-LLM PDF 教程完全开源免费。为防止各类营销号加水印后贩卖给大模型初学者，我们特地在 PDF 文件中预先添加了不影响阅读的 Datawhale 开源标志水印，敬请谅解～_

  _This Happy-LLM PDF tutorial is completely open-source and free. To prevent third-party marketing accounts from adding watermarks and selling it to LLM beginners, we have pre-added a non-intrusive Datawhale open-source logo watermark to the PDF file. Kindly understand~_

 在线阅读地址：https://datawhalechina.github.io/happy-llm/
 Happy-LLM：https://github.com/datawhalechina/happy-llm
 PPT 获取地址：https://github.com/HZAI-ZJNU