基础模型：Undi95/Meta-Llama-3-8B-Instruct-hf
许可证类型：其他
许可证名称：llama3
许可证链接：LICENSE
库名称：transformers
标签：

• 4位量化
• AWQ
• 文本生成
• 兼容自动训练
• 兼容终端
• facebook
• meta
• pytorch
• llama
• llama-3
  管道标签：文本生成
  推理支持：否
  量化者：Suparious

Undi95/Meta-Llama-3-8B-hf AWQ模型

• 原始模型：Meta-Llama-3-8B-instruct-hf

模型概述

Meta公司开发并发布了Meta Llama 3系列大语言模型（LLMs），这是一组包含80亿和700亿参数规模的预训练及指令微调生成文本模型。Llama 3指令微调模型针对对话场景进行了优化，在常见行业基准测试中表现优于许多开源聊天模型。在开发过程中，团队特别注重优化模型的实用性和安全性。

模型开发者 Meta

版本变体 Llama 3提供两种参数规模——80亿和700亿参数，包含预训练版和指令微调版。

输入 模型仅接受文本输入。

输出 模型仅生成文本和代码。

架构设计 Llama 3采用基于优化Transformer架构的自回归语言模型。微调版本通过监督式微调（SFT）和人类反馈强化学习（RLHF）技术，使模型行为更符合人类对实用性和安全性的偏好。

@article{llama3modelcard,
  title={Llama 3模型卡},
  author={Meta人工智能团队},
  year={2024},
  url = {https://github.com/meta-llama/llama3/blob/main/MODEL_CARD.md}
}