README

English   | &nbsp中文&nbsp






  
   
  






  


  






  打造下一代开源双语大语言模型



🤗 Hugging Face • 🤖 魔搭 ModelScope • ✡️ 始智 WiseModel
 


    👩‍🚀 欢迎来  GitHub Discussions 讨论问题
 

    👋 欢迎加入 👾 Discord  或者 💬  微信群 一起交流
 


    📝 欢迎查阅 Yi 技术报告 了解更多
 


    📚 欢迎来  Yi 学习中心 探索新知
 


    💪 欢迎来  Yi 技术博客 学习技术
 




  🙌 本文由 Yi 和社区志愿者共同翻译完成，感谢每一位传递知识的火炬手。 

  🤗 欢迎大家加入「Yi 起翻译」，开启知识之火旅程，共绘技术内容图谱。

  📝 本文翻译使用了 Yi-34B-Chat，关于翻译时使用的 prompt 及最佳实践，参阅「如何使用 Prompt 来实现高质量翻译」和「翻译与审校的正确姿势」。







📕 目录

- 📌 Yi 是什么?
  - 介绍
  - 模型
    - Chat 模型
    - Base 模型
    - 模型信息
  - 最新动态
- 📌 如何使用 Yi?
  - 快速上手
    - 选择学习路径
    - 快速上手 - 使用 PyPi (pip install)
    - 快速上手 - 使用 Docker
    - 快速上手 - 使用 conda-lock
    - 快速上手 - 使用 llama.cpp
    - 快速上手 - 使用 Web demo
  - 微调
  - 量化
  - 部署
  - FAQ
  - 学习中心
- 📌 为什么选择Yi？
  - 生态
    - 上游
    - 下游
      - 服务
      - 量化
      - 微调
      - API
  - 基准测试
    - Chat 模型性能
    - Base 模型性能
  - 技术报告
    - 引用
- 📌 谁可以使用 Yi？
- 📌 其它
  - 致谢
  - 免责声明
  - 许可证





 📌 Yi 是什么?

 介绍

- 🤖 Yi 系列模型是 01.AI 从零训练的下一代开源大语言模型。

- 🙌 Yi 系列模型是一个双语语言模型，在 3T 多语言语料库上训练而成，是全球最强大的大语言模型之一。Yi 系列模型在语言认知、常识推理、阅读理解等方面表现优异。例如，

   - Yi-34B-Chat 模型在 AlpacaEval Leaderboard 排名第二，仅次于 GPT-4 Turbo，超过了 GPT-4、Mixtral 和 Claude 等大语言模型（数据截止至 2024 年 1 月）。

  - Yi-34B 模型在 Hugging Face Open LLM Leaderboard（预训练）与 C-Eval 基准测试中荣登榜首，在中文和英文语言能力方面均超过了其它开源模型，例如，Falcon-180B、Llama-70B 和 Claude（数据截止至 2023 年 11 月）。

  - 🙏 （致谢 Llama ）感谢 Transformer 和 Llama 开源社区，不仅简化了开发者从零开始构建大模型的工作，开发者还可以利用 Llama 生态中现有的工具、库和资源，提高开发效率。

   如果你对 Yi 使用 Llama 架构及其许可使用政策感兴趣，参阅 「Yi 与 Llama 的关系」。 ⬇️  

 💡 简短总结
 
 Yi 系列模型采用与Llama相同的模型架构，但它们不是 Llama 的衍生品。


- Yi 和 Llama 都是基于 Transformer 结构。实际上，自 2018 年以来，Transformer 一直是大语言模型的常用架构。

- 在 Transformer 架构的基础上，Llama 凭借出色的稳定性、可靠的收敛性和强大的兼容性，成为大多数先进开源模型的基石。因此，Llama 也成为 Yi 等模型的基础框架。

- 得益于 Transformer 和 Llama 架构，各类模型可以简化从零开始构建模型的工作，并能够在各自的生态中使用相同的工具。

- 然而，Yi 系列模型不是 Llama 的衍生品，因为它们不使用 Llama 的权重。

  - 虽然大多数开源模型都采用了 Llama 的架构，但决定模型表现的关键因素是训练所使用的数据集、训练管道及其基础设施。

  - 01.AI 用独特的方式开发了 Yi 系列模型，从零开始创建了自己的高质量训练数据集、高效的训练流水线和强大的训练基础设施，因此 Yi 系列模型性能优异，在 Alpaca Leaderboard 上排名仅次于 GPT-4，超过了 Llama（数据截止至 2023 年 12 月）。



 [
  返回顶部 ⬆️   ] 



 最新动态

  🔥 2024-07-26: 发布  Yi Cookbook 1.0  版本，包含中文和英文的教程和示例。



🎯 2024-03-16：发布并开源了 Yi-9B-200K 模型。



  🎯 2024-03-08: 发布了 Yi 技术报告！
  


  🔔 2024-03-07: 增强了 Yi-34B-200K 长文本记忆和检索能力。
  
Yi-34B-200K 的“大海捞针”能力增强了 10.5%, 从 89.3% 提升到了 99.8%。
在 5B tokens 的长文本数据集上，对模型进行继续预训练，模型性能达到预期目标。




  🎯 2024-03-06: 发布并开源了 Yi-9B 模型。
  
Yi-9B 模型在 Mistral-7B、SOLAR-10.7B、Gemma-7B、DeepSeek-Coder-7B-Base-v1.5 等相近尺寸的模型中名列前茅，具有出色的代码能力、数学能力、常识推理能力以及阅读理解能力。



  🎯  2024-01-23: 发布并开源了 Yi-VL-34B 和 Yi-VL-6B 多模态语言大模型。
  
   Yi-VL-34B在 MMMU 和 CMMMU 最新的基准测试中荣登榜首（数据截止至 2024 年 1 月）。



🎯 2023-11-23: 发布并开源了六大 Chat 模型。

其中，两个 4-bits 模型由 AWQ 量化，两个 8-bits 模型由 GPTQ 量化。

- Yi-34B-Chat
- Yi-34B-Chat-4bits
- Yi-34B-Chat-8bits
- Yi-6B-Chat
- Yi-6B-Chat-4bits
- Yi-6B-Chat-8bits




🔔 2023-11-23： Yi 系列模型社区许可协议更新至 2.1 版本。


  
🔥 2023-11-08： Yi-34B-Chat 模型开始邀请测试。


如需申请测试，你可以填写英文或中文申请表。




🎯 2023-11-05： 发布并开源了 Yi-6B-200K 和 Y