语言:

• 英文 许可证: llama3 任务标签: 文本生成 标签:
• facebook
• meta
• pytorch
• llama
• llama-3
• groq
• 工具使用
• 函数调用 基础模型: meta-llama/Meta-Llama-3-70B

Llama-3-70B-工具使用

这是Llama 3 Groq工具使用模型的700亿参数版本，专为高级工具使用和函数调用任务设计。

模型详情

• 模型类型: 针对工具使用优化的因果语言模型
• 支持语言: 英语
• 许可证: Meta Llama 3社区许可证
• 模型架构: 优化的Transformer
• 训练方法: 基于Llama 3 70B基础模型的全参数微调和直接偏好优化(DPO)
• 输入: 文本
• 输出: 文本，具备增强的工具使用和函数调用能力

性能表现

• 伯克利函数调用排行榜(BFCL)得分: 90.76%整体准确率
• 该得分代表了BFCL上所有开源700亿参数大语言模型中的最佳表现

使用与限制

本模型专为工具使用和函数调用场景的研究开发而设计，擅长API交互、结构化数据操作和复杂工具使用任务。但用户需注意：

• 对于通用知识或开放性问题，通用语言模型可能更合适
• 在某些情况下模型仍可能产生不准确或有偏见的内容
• 用户需根据具体用例实施适当的安全措施

注意该模型对temperature和top_p采样配置较为敏感。建议从temperature=0.5, top_p=0.65开始，根据需要上下调整。

文本提示示例：

我们要特别感谢@NousResearch通过公开探索大语言模型中的工具使用推动开源工具使用的发展。

<|start_header_id|>system<|end_header_id|>

你是一个函数调用AI模型。你将在<tools></tools>XML标签内获得函数签名。你可以调用一个或多个函数来协助处理用户查询。不要对函数参数值做假设。对于每个函数调用，返回一个包含函数名和参数的json对象，格式如下：
<tool_call>
{"name": <函数名>,"arguments": <参数字典>}
</tool_call>

可用工具：
<tools> {
    "name": "get_current_weather",
    "description": "获取指定地点的当前天气",
    "parameters": {
        "properties": {
            "location": {
                "description": "城市和州，例如：San Francisco, CA",
                "type": "string"
            },
            "unit": {
                "enum": [
                    "celsius",
                    "fahrenheit"
                ],
                "type": "string"
            }
        },
        "required": [
            "location"
        ],
        "type": "object"
    }
} </tools><|eot_id|><|start_header_id|>user<|end_header_id|>

旧金山的天气如何？<|eot_id|><|start_header_id|>assistant<|end_header_id|>

<tool_call>
{"id":"call_deok","name":"get_current_weather","arguments":{"location":"San Francisco","unit":"celsius"}}
</tool_call><|eot_id|><|start_header_id|>tool<|end_header_id|>

<tool_response>
{"id":"call_deok","result":{"temperature":"72","unit":"celsius"}}
</tool_response><|eot_id|><|start_header_id|>assistant<|end_header_id|>

伦理考量

虽然针对工具使用进行了微调，但本模型继承了基础Llama 3模型的伦理考量。请负责任地使用，并根据应用需求实施额外的安全措施。

获取方式

本模型可通过以下渠道获取：

• Groq API控制台
• Hugging Face

有关负责任使用、伦理考量和最新基准测试的完整详情，请参阅Llama 3官方文档和Groq模型卡。