语言:

• 英文 许可证: Apache-2.0 标签:
• 文本生成 基础模型: BEE-spoke-data/smol_llama-101M-GQA 数据集:
• Open-Orca/SlimOrca-Dedup
• VMware/open-instruct
• LDJnr/Capybara
• cognitivecomputations/ultrachat-uncensored
• starfishmedical/webGPT_x_dolly
• THUDM/webglm-qa 交互示例:
  • 消息:
    • 角色: 系统 内容: 你是一个乐于助人的助手，能提供富有创意的回答。
    • 角色: 用户 内容: 为一个科幻世界中关于巫师和羊驼的游戏编写背景故事。
  • 消息:
    • 角色: 系统 内容: 用户与助手之间的友好对话。
    • 角色: 用户 内容: 有个问题想问你！
    • 角色: 助手 内容: "当然！是什么问题？"
    • 角色: 用户 内容: 我需要建立一个简单的网站。应该从哪里开始学习网页开发？
  • 消息:
    • 角色: 系统 内容: "你是一个乐于助人的助手，能简洁地回答用户的问题。"
    • 角色: 用户 内容: 如何变得更健康？
  • 消息:
    • 角色: 系统 内容: 你是一个乐于助人的助手，总是以同理心回答。
    • 角色: 用户 内容: 列出社交媒体的优缺点。
  • 消息:

    • 角色: 系统 内容: 你是一个乐于助人的助手，总是以同理心回答。

    • 角色: 用户 内容: 你好！

    • 角色: 助手 内容: 嗨！今天有什么可以帮你的？

    • 角色: 用户 内容: '看看下面的信息。

      • VHS录像带内部的磁带非常脆弱，容易损坏，导致无法播放且无法修复。磁带劣化的原因是它们工作所需的磁荷不是永久的，磁性粒子最终会在称为剩磁衰减的过程中失去电荷。这些粒子也可能因存放在磁源附近而被消磁。

      • VHS录像带最显著的问题之一是它们有活动部件，这意味着有更多可能导致故障的情况，损坏你的录像或阻止其播放。磁带本身是主要原因之一，可能会出现磁带滑动。磁带滑动可能是由于磁带失去张力或变形引起的。这些问题可能因高温或频繁的湿度变化在储存过程中发生。

      • VHS录像带会因不频繁使用或过度使用而随时间劣化。忽视会导致霉菌和灰尘，而过度使用可能导致划痕和技术困难。这就是为什么旧的VHS录像带在经过长时间后不可避免地会出现故障。通常在10到25年以上。

      • 一些VHS录像带，如较新的mini DV和Digital 8磁带，可能会遭受数字损坏，这意味着录像会丢失且无法恢复。这些磁带是从VHS到数字时代的过渡产品，当时直接捕捉录像到数字成为常态。不幸的是，它们容易受到数字损坏，导致视频像素化或音频丢失。'

    • 角色: 助手 内容: 好的！

    • 角色: 用户 内容: '现在我要写我的问题，如果上面的信息有用，你可以在回答中使用它们。

      准备好了吗？'

    • 角色: 助手 内容: 准备好回答你的问题了！

    • 角色: 用户 内容: 为什么VHS录像带会随时间劣化？ 推理参数: 参数: 最大新令牌数: 250 惩罚系数: 0.5 前k个: 4 重复惩罚: 1.105 模型索引:

• 名称: Smol-Llama-101M-Chat-v1 结果:
  • 任务: 类型: 文本生成 名称: 文本生成 数据集: 名称: AI2推理挑战(25-Shot) 类型: ai2_arc 配置: ARC-挑战 分割: 测试 参数: 少量样本数: 25 指标:
    • 类型: 标准化准确率 值: 22.87 名称: 标准化准确率 来源: 网址: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard?query=Felladrin/Smol-Llama-101M-Chat-v1 名称: 开放LLM排行榜
  • 任务: 类型: 文本生成 名称: 文本生成 数据集: 名称: HellaSwag (10-Shot) 类型: hellaswag 分割: 验证 参数: 少量样本数: 10 指标:
    • 类型: 标准化准确率 值: 28.69 名称: 标准化准确率 来源: 网址: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard?query=Felladrin/Smol-Llama-101M-Chat-v1 名称: 开放LLM排行榜
  • 任务: 类型: 文本生成 名称: 文本生成 数据集: 名称: MMLU (5-Shot) 类型: cais/mmlu 配置: 全部 分割: 测试 参数: 少量样本数: 5 指标:
    • 类型: 准确率 值: 24.93 名称: 准确率 来源: 网址: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard?query=Felladrin/Smol-Llama-101M-Chat-v1 名称: 开放LLM排行榜
  • 任务: 类型: 文本生成 名称: 文本生成 数据集: 名称: TruthfulQA (0-shot) 类型: truthful_qa 配置: 多项选择 分割: 验证 参数: 少量样本数: 0 指标:
    • 类型: mc2 值: 45.76 来源: 网址: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard?query=Felladrin/Smol-Llama-101M-Chat-v1 名称: 开放LLM排行榜
  • 任务: 类型: 文本生成 名称: 文本生成 数据集: 名称: Winogrande (5-shot) 类型: winogrande 配置: winogrande_xl 分割: 验证 参数: 少量样本数: 5 指标:
    • 类型: 准确率 值: 50.04 名称: 准确率 来源: 网址: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard?query=Felladrin/Smol-Llama-101M-Chat-v1 名称: 开放LLM排行榜
  • 任务: 类型: 文本生成 名称: 文本生成 数据集: 名称: GSM8k (5-shot) 类型: gsm8k 配置: 主要 分割: 测试 参数: 少量样本数: 5 指标:
    • 类型: 准确率 值: 0.08 名称: 准确率 来源: 网址: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard?query=Felladrin/Smol-Llama-101M-Chat-v1 名称: 开放LLM排行榜

101M参数的Llama聊天模型

• 基础模型: BEE-spoke-data/smol_llama-101M-GQA
• 数据集:
  • Open-Orca/SlimOrca-Dedup
  • VMware/open-instruct
  • LDJnr/Capybara
  • cognitivecomputations/ultrachat-uncensored
  • starfishmedical/webGPT_x_dolly
  • THUDM/webglm-qa
• 其他机器学习格式的可用性:
  • GGUF: Felladrin/gguf-Smol-Llama-101M-Chat-v1
  • ONNX: Felladrin/onnx-Smol-Llama-101M-Chat-v1
  • MLC: Felladrin/mlc-q4f16-Smol-Llama-101M-Chat-v1

推荐的提示格式

<|im_start|>system
{系统消息}<|im_end|>
<|im_start|>user
{用户消息}<|im_end|>
<|im_start|>assistant

推荐的推理参数

惩罚系数: 0.5
前k个: 4
重复惩罚: 1.105

开放LLM排行榜评估结果

详细结果可查看这里