14,755
stars
+0+1+-9
1,282
forks
–
watchers
–
prs
–
issues
–
releases
–
discussions
README
English ｜ 中文
Llama中文社区
最好的Llama大模型开源社区
🤗 Hugging Face • 🤖 ModelScope • ✡️ WiseModel
Llama4原生多模态MoE模型发布！
基于Llama的开源中文预训练大模型Atom
🗂️ 目录
- 🗂️ 目录
- 📌 Llama中文社区
- 🔥 社区介绍
- 为什么选择Llama中文社区？
- 社区活动
- 立即加入我们！
- 🪵 社区资源
- 💻 算力
- 📊 数据
- 💬 论坛
- 📱 应用
- 📢 最新动态
- 🤗 模型发布
- 中文预训练模型Atom
- Llama4官方模型
- Llama3官方模型
- Llama3中文微调模型
- Llama2官方模型
- Llama2中文微调模型
- 📌 如何使用Llama模型
- 快速上手-使用Anaconda
- 快速上手-使用Docker
- 快速上手-使用llama.cpp
- 快速上手-使用gradio
- 快速上手-构建API服务
- 快速上手-使用ollama运行
- 🤖 模型预训练
- 💡 模型微调
- Step1: 环境准备
- Step2: 数据准备
- Step3: 微调脚本
- LoRA微调
- 全量参数微调
- Step4: 加载微调模型
- LoRA微调
- 全量参数微调
- 🍄 模型量化
- 🚀 部署加速
- TensorRT-LLM
- vLLM
- JittorLLMs
- lmdeploy
- 💪 外延能力
- LangChain
- 🥇 模型评测
- Llama4模型评测
- Llama2和Llama3对比评测
- Llama3模型评测
- Llama2模型评测
- 📖 学习中心
- 官方文档
- 社区文档
- Llama相关论文
- 📌 其它
- 🎉 致谢
- 🤔 问题反馈
📌 Llama中文社区
🔥 社区介绍
欢迎来到Llama中文社区！Llama模型的开源无疑极大促进了大模型技术的发展，我们致力于构建一个开放平台，能够让所有的开发者与技术爱好者一起共创Llama开源生态。从大模型到小模型，从文本到多模态，从软件到硬件算法优化，我们期望开源能够带给全人类以AI普惠。在一个科技爆发的时代，加入Llama Family，与技术一同进步，与社区一同前行，一起迈向AGI！
为什么选择Llama中文社区？
🚀 高级工程师团队支持：社区有一批专注为大家服务的NLP高级工程师，我们有着强大的技术支持和丰富的经验，为您提供专业的指导和帮助。
🎯 中文优化：我们致力于在Llama模型的中文处理方面进行优化，探索适用于中文的最佳实践，以提升其性能和适应性【支持Llama2、Llama3、Llama4】。
💡 创新交流：我们拥有一支富有创造力和经验的社区成员团队，定期组织线上活动、技术研讨和经验分享，促进成员间的创新交流。
🌐 全球联结：我们欢迎来自世界各地的开发者加入社区，构建一个开放、多元化的学习和交流平台。
🤝 开放共享：我们鼓励社区成员开源分享代码和模型，推动合作共赢，共同促进中文NLP技术的发展。
社区活动
🗓️ 线上讲座：邀请行业内专家进行线上讲座，分享Llama在中文NLP领域的最新技术和应用，探讨前沿研究成果。
💻 项目展示：成员可展示自己在Llama中文优化方面的项目成果，获得反馈和建议，促进项目协作。
📚 学习资源：社区维护丰富的学习资料库，包括教程、文档和论文解读，为成员提供全面的学习支持。
📝 论文解读：社区成员共同解读与Llama相关的最新研究论文，深入理解前沿算法和方法。
🎉 主题活动：定期举办各类主题活动，包括挑战赛、黑客马拉松和技术沙龙，让社区成员在轻松愉快的氛围中交流和学习。
🌟 奖励计划：我们设立奖励计划，对社区中积极参与、贡献优秀的成员给予荣誉和奖励，激励更多优秀人才的加入。
📈 技术咨询：我们提供技术咨询服务，解答您在Llama开发和优化过程中遇到的问题，助您快速攻克难关。
🚀 项目合作：鼓励成员间的项目合作，共同探索Llama在实际应用中的潜力，打造创新解决方案。
立即加入我们！
📚 愿景：无论您是对Llama已有研究和应用经验的专业开发者，还是对Llama中文优化感兴趣并希望深入探索的新手，我们都热切期待您的加入。在Llama中文社区，您将有机会与行业内顶尖人才共同交流，携手推动中文NLP技术的进步，开创更加美好的技术未来！
🔗 温馨提示：本社区为专业技术交流平台，我们热切期望志同道合的开发者和研究者加入。请遵守社区准则，共同维护积极向上的学习氛围。感谢您的理解和支持！
🪵 社区资源
社区资源的丰富性是社区发展的重要保障，它涵盖了各种方面，其中包括但不限于以下四个方面：算力、数据、论坛和应用。在这些方面的积极发展与充分利用，将为社区成员提供更多的机会和支持，推动整个社区向着更加繁荣的方向发展。更多的内容请看llama.family
💻 算力
- 提供低于市场价格的算力资源，可用于各类计算任务，如深度学习模型的训练、推理等。
- 为社区成员提供专属的在线推理服务，让用户可以快速有效地对模型进行推理操作。
- 提供一键在线微调服务，使用户可以方便地对模型进行微调，以适应不同的任务和数据。
📊 数据
- 开放丰富的训练数据资源，覆盖多个领域和行业，为模型训练提供充足的数据支持。
- 提供高质量、多样化的数据集，以满足不同用户的需求，并支持数据共享和交流，促进数据资源的充分利用。
💬 论坛
- 社区论坛为社区成员提供了一个在线交流和讨论技术问题的平台。
- 在论坛上，用户可以分享经验、提出问题、解答疑惑，促进技术交流和合作。
- 论坛还可以定期举办线上活动、研讨会等，增进社区成员之间的联系和了解。
📱 应用
- 免费提供应用推广展示位，让开发者可以将他们的应用充分展示给社区成员。
- 提供推广的帮助，包括但不限于宣传推广、用户引导等服务，帮助应用获得更多的曝光和用户。
- 通过社区平台，为优秀的应用提供合作机会，促进应用开发者之间的合作和交流，共同推动应用的发展和壮大。
📢 最新动态
【最新】2025年04月05日：原生多模态MoE架构的Llama 4开源！最高达2T参数的Behemoth模型，以及Maverick、Scout。
【最新】2024年12月06日：Llama 3.3模型发布，更新70B Instruct模型。
【最新】2024年09月25日：Llama 3.2模型发布，核心主打1B、3B端侧小模型，以及11B、90B多模态输入模型！
【最新】2024年07月24日：开源最强Llama 3.1模型发布，包含8B、70B和405B！
【最新】2024年07月16日：社区论坛上线，有大模型问题