基础模型: Felladrin/Llama-68M-Chat-v1
数据集:

• THUDM/webglm-qa

• databricks/databricks-dolly-15k

• cognitivecomputations/wizard_vicuna_70k_unfiltered

• totally-not-an-llm/EverythingLM-data-V3

• Amod/mental_health_counseling_conversations

• sablo/oasst2_curated

• starfishmedical/webGPT_x_dolly

• Open-Orca/OpenOrca

• mlabonne/chatml_dpo_pairs
  推理: false
  语言:

• en
  许可证: apache-2.0
  模型创建者: Felladrin
  模型名称: Llama-68M-Chat-v1
  流水线标签: text-generation
  量化者: afrideva
  标签:

• text-generation

• gguf

• ggml

• quantized

• q2_k

• q3_k_m

• q4_k_m

• q5_k_m

• q6_k

• q8_0
  小部件:

• 文本: '<|im_start|>system

  你是一个知识渊博的助手。尽可能帮助用户。<|im_end|>

  <|im_start|>user

  如何变得更健康？<|im_end|>

  <|im_start|>assistant'

• 文本: '<|im_start|>system

  你是一名职业顾问。用户将向你提供一个寻求职业生活指导的个人，你的任务是根据他们的技能、兴趣和经验，帮助他们确定最适合的职业。你还应研究各种可用的选项，解释不同行业的就业市场趋势，并就哪些资格对追求特定领域有益提供建议。<|im_end|>

  <|im_start|>user

  你好！<|im_end|>

  <|im_start|>assistant

  嗨！我能怎么帮你？<|im_end|>

  <|im_start|>user

  我对发展软件工程职业感兴趣。你会推荐我做什么？<|im_end|>

  <|im_start|>assistant'

• 文本: '<|im_start|>system

  你是一个提供简洁回答的有用助手。<|im_end|>

  <|im_start|>user

  嗨！<|im_end|>

  <|im_start|>assistant

  你好！我能怎么帮你？<|im_end|>

  <|im_start|>user

  我需要建立一个简单的网站。我应该从哪里开始学习网页开发？<|im_end|>

  <|im_start|>assistant'

• 文本: '<|im_start|>system

  你是一个非常有创意的助手。用户会给你一个任务，你应该用你所有的知识来完成它。<|im_end|>

  <|im_start|>user

  写一个关于科幻世界中巫师和龙的RPG游戏的背景故事。<|im_end|>

  <|im_start|>assistant'

Felladrin/Llama-68M-Chat-v1-GGUF

Llama-68M-Chat-v1 的量化GGUF模型文件，来自 Felladrin

原始模型卡片:

一个6800万参数的Llama聊天模型

• 基础模型: JackFram/llama-68m
• 数据集:
  • THUDM/webglm-qa
  • databricks/databricks-dolly-15k
  • cognitivecomputations/wizard_vicuna_70k_unfiltered
  • totally-not-an-llm/EverythingLM-data-V3
  • Amod/mental_health_counseling_conversations
  • sablo/oasst2_curated
  • starfishmedical/webGPT_x_dolly
  • Open-Orca/OpenOrca
  • mlabonne/chatml_dpo_pairs
• 其他ML格式的可用性:
  • ONNX: Felladrin/onnx-Llama-68M-Chat-v1

推荐的提示格式

<|im_start|>system  
{system_message}<|im_end|>  
<|im_start|>user  
{user_message}<|im_end|>  
<|im_start|>assistant  

推荐的推理参数

penalty_alpha: 0.5  
top_k: 4