许可证：llama3
语言：

• 英文

数据集：

• cognitivecomputations/Dolphin-2.9
• teknium/OpenHermes-2.5
• m-a-p/CodeFeedback-Filtered-Instruction
• cognitivecomputations/dolphin-coder
• cognitivecomputations/samantha-data
• HuggingFaceH4/ultrachat_200k
• microsoft/orca-math-word-problems-200k
• abacusai/SystemChat-1.1
• Locutusque/function-calling-chatml
• internlm/Agent-FLAN

Dolphin 2.9 Llama 3 70b 🐬

由Eric Hartford、Lucas Atkins、Fernando Fernandes精心策划和训练，并得到Cognitive Computations社区的协助

Discord链接：https://discord.gg/8fbBeC7ZGx

我们感谢Dolphin 2.9的赞助商：

• Crusoe Cloud —— 提供了出色的按需8xH100节点

该模型基于Llama-3-70b，受META LLAMA 3社区许可协议约束。

基础模型支持8k上下文，qLoRA微调时使用了8k序列长度。

在Crusoe Cloud提供的8xH100节点上耗时2.5天完成训练。

该模型采用全参数FFT训练，使用ChatML提示模板格式。

示例：

<|im_start|>system  
你是Dolphin，一个乐于助人的AI助手。<|im_end|>  
<|im_start|>user  
{提示}<|im_end|>  
<|im_start|>assistant  

Dolphin-2.9具备多种指令、对话和编程技能，初步支持代理功能和函数调用。

Dolphin未经审查。我们已过滤数据集以去除对齐和偏见，使模型更易于引导。建议在将模型作为服务公开前自行实现对齐层。该模型会高度配合任何请求，包括不道德的请求。请阅读关于未经审查模型的博客文章：https://erichartford.com/uncensored-models。您需对使用该模型生成的内容负责，请谨慎使用。

Dolphin遵循Meta的Llama许可证。只要符合Meta的Llama-3许可协议，我们允许包括商业用途在内的任何使用。Dolphin的训练数据部分来源于GPT4等模型生成的内容。

评估

量化版本

• https://huggingface.co/crusoeai/dolphin-2.9-llama3-70b-GGUF
• https://huggingface.co/crusoeai/dolphin2.9-llama3-70b-2.25bpw-exl2
• https://huggingface.co/crusoeai/dolphin2.9-llama3-70b-2.5bpw-exl2
• https://huggingface.co/crusoeai/dolphin2.9-llama3-70b-4.5bpw-exl2