《动手学大模型Dive into LLMs》系列编程实践教程

★ 59,944⑂ 7,159👁 364⑃ 26● 29▤ 1◈ 0
Jupyter NotebookCreated 2024-04-08
59,944
stars
+113+1,085+4,248
7,159
forks
364
watchers
26
prs
29
issues
1
releases
0
discussions

README

《动手学大模型》系列编程实践教程


  	
      
    
  
       
  	
  
       
  	
   	
       
  	
  	
       
  	
    
      
    
    





  项目动机/
  教程目录/
  贡献者列表



 💡 Updates

2025/06/06  感谢各位朋友们的关注和积极反馈!我们从以下两个方面对本教程进行了更新:

- [x] 上线国产化《大模型开发全流程》公益教程(含PPT、实验手册和视频),此处特别感谢华为昇腾社区的支持!
- [x] 在原系列编程实践教程的基础上进行内容更新,并增加了新的主题(数学推理、GUI Agent、大模型对齐、隐写术等)!

 🎯 项目动机

《动手学大模型》系列编程实践教程,由上海交通大学《自然语言处理前沿技术》(NIS8021)、《人工智能安全技术》课程(NIS3353)讲义拓展而来(教师:张倬胜),旨在提供大模型相关的入门编程参考。本教程属公益性质、完全免费。通过简单实践,帮助同学们快速入门大模型,更好地开展课程设计或学术研究。

 📚 教程目录

| 教程内容         | 简介                                                         | 地址                                                         |
| ---------------- | ------------------------------------------------------------ | ------------------------------------------------------------ |
| 微调与部署       | 预训练模型微调与部署指南:想提升预训练模型在指定任务上的性能?让我们选择合适的预训练模型,在特定任务上进行微调,并将微调后的模型部署成方便使用的Demo! | [课件] [教程] [脚本] |
| 提示学习与思维链 | 大模型的API调用与推理指南:“AI在线求鼓励?大模型对一些问题的回答令人大跌眼镜,但它可能只是想要一句「鼓励」” | [课件] [教程] [脚本] |
| 知识编辑         | 语言模型的编辑方法和工具:想操控语言模型在对指定知识的记忆?让我们选择合适的编辑方法,对特定知识进行编辑,并将对编辑后的模型进行验证! | [课件] [教程]  [脚本] |
| 数学推理         | 如何让大模型学会数学推理?让我们快速蒸馏一个迷你R1!         | [课件] [教程]  [脚本] |
| 模型水印         | 语言模型的文本水印:在语言模型生成的内容中嵌入人类不可见的水印 | [课件] [教程]  [脚本] |
| 越狱攻击         | 想要得到更好的安全,要先从学会攻击开始。让我们了解越狱攻击如何撬开大模型的嘴! | [课件] [教程] [脚本] |
| 大模型隐写       | “看不见的墨水”!想让大模型在流畅回答的同时,悄悄携带只有“自己人”能识别的信息吗?大模型隐写告诉你! | [课件] [教程] [脚本] |
| 多模态模型       | 作为能够更充分模拟真实世界的多模态大语言模型,其如何实现更强大的多模态理解和生成能力?多模态大语言模型是否能够帮助实现AGI? | [课件]  [教程] [脚本] |
| GUI智能体        | 想要饭来张口、解放双手?那么让我们一起来让AI Agent替你点外卖、回消息、购物比价吧! | [课件]  [教程] [脚本] |
| 智能体安全       | 大模型智能体迈向了未来操作系统之旅。然而,大模型在开放智能体场景中能意识到风险威胁吗? | [课件] [教程] [脚本] |
| RLHF安全对齐     | 基于PPO的RLHF实验指南:本教程”十分危险“,阅读后请检查你的大模型是否在冷笑。 | [课件] [教程] [脚本] |



 🔥 新上线:国产化《大模型开发全流程》

- ✨ 我们联合华为昇腾推出的《大模型开发全流程》公益教程正式上线!前沿技术+代码实践,手把手带你玩转AI大模型 ✨: 

  在《动手学大模型》原系列教程的基础上,我们联合华为开发了《大模型开发全流程》系列课程。本系列教程基于昇腾基础软硬件开发,覆盖PPT、实验手册、视频等教程形式。该教程分为初级、中级、高级系列,面向不同的大模型实践需求,旨在将前沿技术通过代码实践的方式,为相关研究者、开发者由浅入深地提供快速上手、应用昇腾已支持模型和全新模型迁移调优的全流程开发指南。
  
- 🚀 前往昇腾社区探索《大模型开发全流程》系列课程: 
  
  👉《大模型开发学习专区》@ 昇腾社区 👈 
  
- ✨ 课程内容展示 ✨

  
  
  
   --


  
  
  
  


 🙏 免责声明

本教程所有内容仅仅来自于贡献者的个人经验、互联网数据、日常科研工作中的相关积累。所有技巧仅供参考,不保证百分百正确。若有任何问题,欢迎提交 Issue 或 PR。另本项目所用徽章来自互联网,如侵犯了您的图片版权请联系我们删除,谢谢。

 🤝 欢迎贡献

本教程目前是一个正在进行中的项目,如有疏漏在所难免,欢迎任何的PR及issue讨论。

 ❤️ 贡献者列表

感谢以下老师和同学对本项目的支持与贡献:

《动手学大模型》系列教程开发团队:

- 上海交通大学:张倬胜、袁童鑫、马欣贝、 何志威、杜巍、赵皓东、吴宗儒、吴铮、董凌众、张玉龙

- 新加坡国立大学:费豪

《大模型开发全流程》系列教程开发团队:

- 上海交通大学:张倬胜、刘功申、陈星宇、程彭洲、董凌众、 何志威、鞠天杰、马欣贝、 吴铮、吴宗儒、闫子赫、姚杳、袁童鑫、赵皓东;

- 华为昇腾社区:ZOMI、谢乾、程黎明、楼梨华、焦泽昱

 🌟 Star History

Top issues

Latest release

dive-into-llms v1 2025-06-12

Snapshot: 2026-11-10T09:35:25Z · Data license Apache-2.0 · JSON