许可证：apache-2.0 小部件：

• 示例标题："Yi-34B-Chat" 文本："你好" 输出： 文本："你好！今天有什么可以帮您的吗？"
• 示例标题："Yi-34B" 文本："有一个地方时间静止。一个令人惊叹的地方，但也" 输出： 文本："有一种诡异的感觉，总觉得哪里不对劲……\n在两个世界之间，存在着被遗忘的王国——那里栖息着早已被认为灭绝的生物，蕴藏着强大到难以置信的古老魔法！只有在这里，你才能找到失落了几个世纪的东西：生命灵药，它能恢复青春与活力，只要那些寻求其力量的人足够勇敢，敢于面对这片神秘土地上潜伏的各种危险！但要当心；有人说这里甚至可能存在我们无法理解的强大实体，它们对人类意图不明——也许它们追求的只是毁灭本身，而非永生（或许该有人告诉它们现代医学的存在）？无论如何，有一点始终不变：成功与否完全取决于我们付出多少努力去征服前方的挑战，以及内心深处是否拥有足够的信念；）那么，我们现在就开始吧？" 管道标签：文本生成

🤗 Hugging Face • 🤖 ModelScope • ✡️ WiseModel

👩‍🚀 在 GitHub 上提问或讨论想法

👋 加入我们的 👾 Discord 或 💬 微信

📝 查看 Yi技术报告

📚 在 Yi学习中心 成长

什么是Yi？

简介

• 🤖 Yi系列模型是由01.AI从头开始训练的下一代开源大语言模型。

• 🙌 作为一款双语语言模型，Yi系列模型在3T多语言语料库上训练，成为全球最强大的LLM之一，在语言理解、常识推理、阅读理解等方面表现出色。例如：

  • Yi-34B-Chat模型位居第二（仅次于GPT-4 Turbo），在AlpacaEval排行榜上（基于2024年1月的数据）超越了其他LLM（如GPT-4、Mixtral、Claude）。

  • Yi-34B模型在所有现有开源模型中排名第一（如Falcon-180B、Llama-70B、Claude），在Hugging Face Open LLM Leaderboard（预训练）和C-Eval（基于2023年11月的数据）等多项基准测试中表现优异。

  • 🙏 （感谢Llama）感谢Transformer和Llama开源社区，它们减少了从头构建的难度，并使得AI生态系统中可以使用相同的工具。

  如果你对Yi采用Llama架构和许可证使用政策感兴趣，请参阅Yi与Llama的关系。 ⬇️

  
  

  💡 摘要

  Yi系列模型采用了与Llama相同的模型架构，但并非Llama的衍生品。

  • Yi和Llama都基于Transformer结构，自2018年以来，Transformer已成为大语言模型的标准架构。

  • 基于Transformer架构，Llama因其出色的稳定性、可靠的收敛性和强大的兼容性，成为大多数最先进开源模型的新基石。这使Llama成为包括Yi在内的模型的公认基础框架。

  • 得益于Transformer和Llama架构，其他模型可以利用其力量，减少从头构建的难度，并在其生态系统中使用相同的工具。

  • 然而，Yi系列模型并非Llama的衍生品，因为它们没有使用Llama的权重。

    • 由于Llama的结构被大多数开源模型采用，决定模型性能的关键因素是训练数据集、训练流程和训练基础设施。

    • Yi以独特和专有的方式开发，完全独立创建了自己的高质量训练数据集、高效训练流程和强大的训练基础设施。这一努力使Yi系列模型在2023年12月的Alpaca排行榜上仅次于GPT4，超越了Llama。

[ 返回顶部 ⬆️ ]

新闻