许可证: MIT
基础模型:

• ServiceNow-AI/Apriel-5B-Instruct
  任务标签: 文本生成
  库名称: transformers

• Apriel 5B Instruct (Llamafied版)
• Apriel 5B Base (Llamafied版)

Apriel 5B Instruct (Llamafied版)

这是对Apriel 5B Instruct模型转换为Llama格式的近似实现。

• 无需trust_remote_code
• 兼容主流微调框架
• 运行更简便

使用方法:

from transformers import pipeline  
import torch  

device = 'cuda' if torch.cuda.is_available() else 'mps' if torch.backends.mps.is_available() else 'cpu'  

pipe = pipeline('text-generation', model='mrfakename/Apriel-5B-Instruct-llamafied', device=device)  

print(pipe(pipe.tokenizer.apply_chat_template([{'role': 'user', 'content': '你好'}], tokenize=False, add_generation_prompt=True))[0]['generated_text'])  

许可证: MIT (与原版Apriel 5B模型相同)