Meta Llama 3 70B Instruct

由 meta-llama 开发

Meta Llama 3 70B Instruct 是 Meta 发布的 700 亿参数指令调优大语言模型，针对对话场景优化，在帮助性和安全性方面表现优异。

大型语言模型

Transformers

英语

#大语言模型 #多轮对话优化 #强化学习对齐

下载量 407.38k

发布时间 : 4/17/2024

模型介绍

内容详情

替代品

模型简介

Llama 3 是 Meta 开发的大语言模型系列，包含 8B 和 70B 参数的预训练和指令调优变体。指令调优模型针对对话用例进行了优化，在常见基准测试中优于许多开源聊天模型。

模型特点

优化的对话性能

通过监督微调(SFT)和带人类反馈的强化学习(RLHF)优化，在对话场景中表现出色

大规模训练数据

使用超过 15T 令牌的新公开在线数据混合进行训练

长上下文处理

支持 8k 令牌的上下文长度，适合处理长文档和复杂对话

安全性保障

开发过程中特别注重模型的安全性和负责任使用

模型能力

文本生成

代码生成

对话系统

问答系统

内容创作

使用案例

对话助手

智能客服

用于构建能够理解复杂问题并提供准确回答的客服系统

提供自然流畅的对话体验

个人助手

作为个人数字助手处理日常任务和问题解答

帮助用户高效获取信息和完成任务

内容创作

文章写作

辅助创作者生成文章草稿、改写内容或提供写作建议

提高内容创作效率

创意写作

生成故事、诗歌等创意内容

激发创作灵感

编程辅助

代码生成

根据自然语言描述生成代码片段

提高开发效率

代码解释

解释复杂代码的功能和逻辑

帮助开发者理解代码

语言:

英文流水线标签: 文本生成基础模型: meta-llama/Meta-Llama-3-70B 新版本: meta-llama/Llama-3.3-70B-Instruct 标签:
facebook
meta
pytorch
llama
llama-3 许可证: llama3 额外授权提示: >-

META LLAMA 3 社区许可协议

Meta Llama 3 版本发布日期: 2024年4月18日

"协议"指本文规定的关于Llama材料使用、复制、分发和修改的条款和条件。

"文档"指Meta在https://llama.meta.com/get-started/发布的Meta Llama 3规格说明、手册和文档。

"被许可方"或"您"指您、您的雇主或任何其他个人或实体(如果您代表该个人或实体签订本协议)，年龄符合适用法律、法规要求能提供法律同意，并有法律权限约束您的雇主或该个人或实体(如果您代表他们签订本协议)。

"Meta Llama 3"指基础大语言模型和软件算法，包括机器学习模型代码、训练模型权重、推理代码、训练代码、微调代码以及Meta在https://llama.meta.com/llama-downloads发布的其他相关组件。

"Llama材料"统指根据本协议提供的Meta专有Meta Llama 3和文档(及其任何部分)。

"Meta"或"我们"指Meta Platforms爱尔兰有限公司(如果您位于欧洲经济区或瑞士，或作为实体主要营业地在上述地区)和Meta Platforms公司(如果您位于欧洲经济区或瑞士以外地区)。
1. 许可权利和再分发。
a. 权利授予。根据Meta在Llama材料中体现的知识产权或其他权利，授予您非排他性、全球性、不可转让且免版税的有限许可，以使用、复制、分发、复制、创建衍生作品和修改Llama材料。

b. 再分发和使用。

i. 如果您分发或提供Llama材料(或其任何衍生作品)，或使用其中任何部分的产品或服务(包括其他AI模型)，您应(A)随Llama材料提供本协议副本；(B)在相关网站、用户界面、博客文章、关于页面或产品文档中显著显示"基于Meta Llama 3构建"。如果您使用Llama材料创建、训练、微调或以其他方式改进AI模型并进行分发或提供，您还应在任何此类AI模型名称开头包含"Llama 3"。

ii. 如果您从被许可方处接收Llama材料或其任何衍生作品作为集成终端用户产品的一部分，则本协议第2条不适用于您。

iii. 您必须在分发的所有Llama材料副本中保留以下归属声明，作为此类副本一部分的"通知"文本文件："Meta Llama 3根据Meta Llama 3社区许可协议授权，版权所有© Meta Platforms公司。保留所有权利。"

iv. 您对Llama材料的使用必须遵守适用法律法规(包括贸易合规法律法规)，并遵守Llama材料可接受使用政策(详见https://llama.meta.com/llama3/use-policy)，该政策通过引用并入本协议。

v. 您不得使用Llama材料或其任何输出或结果来改进任何其他大语言模型(不包括Meta Llama 3或其衍生作品)。
1. 附加商业条款。如果在Meta Llama 3版本发布之日，由被许可方或其关联公司提供的产品或服务的月活跃用户在前一个日历月超过7亿，您必须向Meta申请许可，Meta可自行决定是否授予您许可，在Meta明确授予您此类权利之前，您无权行使本协议下的任何权利。
2. 免责声明。除非适用法律要求，Llama材料及其任何输出和结果均按"原样"提供，不提供任何形式的保证，Meta否认所有明示或默示的保证，包括但不限于所有权、不侵权、适销性或特定用途适用性的保证。您全权负责确定使用或再分发Llama材料的适当性，并承担与使用Llama材料及其任何输出和结果相关的所有风险。
3. 责任限制。在任何情况下，Meta或其关联公司均不对因本协议引起的任何理论上的责任(无论是合同、侵权、过失、产品责任或其他)负责，包括任何利润损失或任何间接、特殊、后果性、附带性、示范性或惩罚性损害赔偿，即使Meta或其关联公司已被告知此类损害的可能性。
4. 知识产权。
a. 本协议不授予任何商标许可，在与Llama材料相关时，Meta和被许可方均不得使用对方或其关联公司拥有或关联的任何名称或标记，除非为合理常规使用描述和再分发Llama材料或如第5(a)条所述。Meta特此授予您使用"Llama 3"("标记")的许可，仅用于遵守第1.b.i条最后一句的要求。您将遵守Meta的品牌指南(当前可在https://about.meta.com/brand/resources/meta/company-brand/查阅)。您使用标记所产生的所有商誉将归属于Meta。

b. 在Meta对Llama材料及Meta制作或为其制作的衍生作品拥有所有权的前提下，对于您制作的Llama材料的任何衍生作品和修改，在您和Meta之间，您是并将是此类衍生作品和修改的所有者。

c. 如果您对Meta或任何实体提起诉讼或其他程序(包括诉讼中的交叉索赔或反诉)，指控Llama材料或Meta Llama 3输出或结果或其任何部分构成对您拥有或可许可的知识产权或其他权利的侵权，则本协议授予您的任何许可应自提起诉讼或索赔之日起终止。您将赔偿并使Meta免受因您使用或分发Llama材料而引起的任何第三方索赔的损害。
1. 期限和终止。本协议自您接受本协议或访问Llama材料之日起生效，并将持续有效直至根据本文条款终止。如果您违反本协议的任何条款或条件，Meta可终止本协议。本协议终止后，您应删除并停止使用Llama材料。第3、4和7条在本协议终止后仍然有效。
2. 适用法律和管辖权。本协议将受加利福尼亚州法律管辖并根据其解释，不考虑法律冲突原则，《联合国国际货物销售合同公约》不适用于本协议。加利福尼亚州法院对本协议引起的任何争议拥有专属管辖权。
Meta Llama 3 可接受使用政策

Meta致力于促进其工具和功能(包括Meta Llama 3)的安全和公平使用。如果您访问或使用Meta Llama 3，即表示您同意本可接受使用政策("政策")。本政策的最新版本可在https://llama.meta.com/llama3/use-policy找到。

禁止用途

我们希望每个人都能安全、负责任地使用Meta Llama 3。您同意不会使用或允许他人使用Meta Llama 3：
1. 违反法律或他人权利，包括：
  1. 从事、促进、生成、促成、鼓励、计划、煽动或进一步非法或违法活动或内容，如：
    1. 暴力或恐怖主义
    2. 对儿童的剥削或伤害，包括招揽、创建、获取或传播儿童剥削内容或未报告儿童性虐待材料
    3. 人口贩运、剥削和性暴力
    4. 向未成年人非法分发信息或材料，包括淫秽材料，或未对此类信息或材料采用法律要求的年龄限制
    5. 性招揽
    6. 任何其他犯罪活动
  2. 从事、促进、煽动或便利对个人或群体的骚扰、虐待、威胁或欺凌
  3. 在提供就业、就业福利、信贷、住房、其他经济利益或其他基本商品和服务时，从事、促进、煽动或便利歧视或其他非法或有害行为
  4. 从事任何职业的未经授权或无执照的实践，包括但不限于金融、法律、医疗/健康或相关专业实践
  5. 未经适用法律要求的权利和同意，收集、处理、披露、生成或推断个人健康、人口统计或其他敏感个人或私人信息
  6. 从事或便利任何侵犯、盗用或以其他方式侵犯任何第三方权利的行为或生成任何内容，包括使用Llama材料的任何产品或服务的输出或结果
  7. 创建、生成或便利创建恶意代码、恶意软件、计算机病毒，或执行任何可能禁用、过载、干扰或损害网站或计算机系统正常运行、完整性、操作或外观的行为
2. 从事、促进、煽动、便利或协助规划或开发可能造成个人死亡或身体伤害风险的活动，包括与以下内容相关的Meta Llama 3使用：
  1. 军事、战争、核工业或应用、间谍活动，用于受美国国务院维护的《国际武器贸易条例》(ITAR)约束的材料或活动
  2. 枪支和非法武器(包括武器开发)
  3. 非法毒品和受管制/控制物质
  4. 关键基础设施、运输技术或重型机械的操作
  5. 自残或伤害他人，包括自杀、自残和饮食失调
  6. 任何旨在煽动或促进暴力、虐待或对个人造成身体伤害的内容
3. 故意欺骗或误导他人，包括与以下内容相关的Meta Llama 3使用：
  1. 生成、促进或进一步欺诈或虚假信息的创建或推广
  2. 生成、促进或进一步诽谤性内容，包括创建诽谤性陈述、图像或其他内容
  3. 生成、促进或进一步分发垃圾邮件
  4. 未经同意、授权或合法权利冒充他人
  5. 表示Meta Llama 3的使用或输出是人工生成的
  6. 生成或便利虚假在线互动，包括虚假评论和其他虚假在线互动手段
4. 未向终端用户适当披露您的AI系统的任何已知危险
请通过以下方式之一报告违反本政策的行为、软件"错误"或其他可能导致违反本政策的问题： * 报告模型问题：https://github.com/meta-llama/llama3 * 报告模型生成的风险内容： developers.facebook.com/llama_output_feedback * 报告错误和安全问题：facebook.com/whitehat/info * 报告违反可接受使用政策或未经许可使用Meta Llama 3的行为：LlamaUseReport@meta.com 额外授权字段: 名字: 文本姓氏: 文本出生日期: 日期选择器国家: 国家所属机构: 文本地理位置: IP定位
点击下方的提交按钮即表示我接受许可条款，并确认我提供的信息将根据Meta隐私政策进行收集、存储、处理和共享: 复选框额外授权描述: 您提供的信息将根据Meta隐私政策进行收集、存储、处理和共享。额外授权按钮内容: 提交小部件:
- 示例标题: 冬季假期消息:
  - 角色: 系统内容: 您是一个乐于助人且诚实的助手。请简洁、真实地回答。
  - 角色: 用户内容: 您能推荐一个适合冬季假期的好去处吗？
- 示例标题: 编程助手消息:
  - 角色: 系统内容: 您是一个乐于助人且诚实的代码和编程助手。请简洁、真实地回答。
  - 角色: 用户内容: 编写一个计算第n个斐波那契数的函数。推理: 参数: 最大新令牌数: 300 停止:
  - <|end_of_text|>
  - <|eot_id|>

模型详情

Meta开发并发布了Meta Llama 3系列大语言模型(LLMs)，这是一组8B和70B规模的预训练和指令调优生成文本模型。Llama 3指令调优模型针对对话用例进行了优化，在常见行业基准测试中优于许多可用的开源聊天模型。此外，在开发这些模型时，我们非常注重优化帮助性和安全性。

模型开发者 Meta

变体 Llama 3提供两种规模——8B和70B参数——的预训练和指令调优变体。

输入模型仅输入文本。

输出模型仅生成文本和代码。

模型架构 Llama 3是一种自回归语言模型，使用优化的transformer架构。调优版本使用监督微调(SFT)和带有人类反馈的强化学习(RLHF)来与人类对帮助性和安全性的偏好保持一致。

精选推荐AI模型

Llama 3 Typhoon V1.5x 8b Instruct

专为泰语设计的80亿参数指令模型，性能媲美GPT-3.5-turbo，优化了应用场景、检索增强生成、受限生成和推理任务

Cadet-Tiny是一个基于SODA数据集训练的超小型对话模型，专为边缘设备推理设计，体积仅为Cosmo-3B模型的2%左右。

Roberta Base Chinese Extractive Qa

基于RoBERTa架构的中文抽取式问答模型，适用于从给定文本中提取答案的任务。

AIbase是一个专注于MCP服务的平台，为AI开发者提供高质量的模型上下文协议服务，助力AI应用开发。

简体中文

热门模型

Llama 3 Typhoon V1.5x 8b Instruct

Cadet Tiny

Roberta Base Chinese Extractive Qa

热门模型分类

热门标签

	训练数据	参数	上下文长度	GQA	令牌计数	知识截止
Llama 3	新的公开在线数据混合。	8B	8k	是	15T+	2023年3月
Llama 3	新的公开在线数据混合。	70B	8k	是	15T+

Meta Llama 3 70B Instruct

模型简介

模型特点

模型能力

使用案例

META LLAMA 3 社区许可协议

Meta Llama 3 可接受使用政策

禁止用途

模型详情