基础模型: microsoft/Phi-3-mini-4k-instruct
推理支持: 否
许可证: mit
许可证链接: https://huggingface.co/microsoft/Phi-3-mini-4k-instruct/resolve/main/LICENSE
支持语言:

• 英语
  任务标签: 文本生成
  标签:
• 自然语言处理
• 代码
  模型创建者: 微软
  模型名称: Phi-3-mini-4k-instruct
  模型类型: phi3
  量化处理者: brittlewis12

Phi 3 Mini 4K Instruct GGUF 模型

2024年7月21日更新，同步微软最新模型改动

原始模型: Phi-3-mini-4k-instruct
模型作者: 微软

本仓库包含微软Phi 3 Mini 4K Instruct模型的GGUF格式文件。

Phi-3-Mini-4K-Instruct是一个38亿参数的轻量级前沿开源模型，使用Phi-3数据集训练而成，该数据集包含合成数据以及经过筛选的公开网站数据，注重高质量和推理密集特性。

了解更多请访问微软模型页面。

什么是GGUF?

GGUF是一种用于表示AI模型的文件格式。它是该格式的第三个版本，由llama.cpp团队于2023年8月21日推出，取代了llama.cpp不再支持的GGML格式。
使用llama.cpp构建版本3432（修订版45f2c19）和autogguf工具转换而成。

提示词模板

<|system|>
{{系统提示}}<|end|>
<|user|>
{{用户输入}}<|end|>
<|assistant|>

在iPhone、iPad和Mac上使用cnvrs下载并运行！

cnvrs是设备端私有本地AI的最佳应用：

• 创建并保存带有自定义系统提示和温度设置的角色
• 下载并尝试任何你能在HuggingFace上找到的GGUF模型！
• 通过自定义主题颜色打造个性化体验
• 基于Metal ⚡️和Llama.cpp驱动，响应流式传输时提供触觉反馈！
• 立即通过Testflight亲自体验！
• 关注cnvrs的Twitter获取最新动态

原始模型评估

7月更新版与4月原始版的对比：

原始4月发布版

按照现行标准，我们使用少量示例提示在温度为0的条件下评估模型。
提示词和示例数量是微软内部评估语言模型工具的一部分，特别是我们没有为Phi-3优化流程。
更具体地说，我们没有更改提示词、选择不同的少量示例、修改提示格式或进行任何其他形式的模型优化。

每个基准测试的k-shot示例数量如下所示。