library_name: transformers license: mit

巧克力融合14B模型

FINGU-AI/Chocolatine-Fusion-14B 是一个合并模型，结合了 jpacifico/Chocolatine-2-14B-Instruct-v2.0b3 和 jpacifico/Chocolatine-2-14B-Instruct-v2.0b2 的优势。该模型保留了Chocolatine系列的优点，并通过优化融合提升了推理能力和多轮对话表现。

训练与微调

Chocolatine-Fusion-14B基于Chocolatine-2系列进行DPO微调，其基础模型为 sometimesanotion/Lamarck-14B-v0.7。

• 使用法语和英语RLHF数据集（包括jpacifico/french-orca-dpo-pairs-revised）进行训练，增强双语能力
• 支持128K tokens的长上下文处理，可生成8K tokens的文本

OpenLLM排行榜

即将公布。

MT-Bench测试

即将公布。

使用方法

运行该模型的示例代码：

import transformers
from transformers import AutoTokenizer

# 格式化提示语
message = [
    {"role": "system", "content": "你是一个乐于助人的聊天助手。"},
    {"role": "user", "content": "什么是大语言模型？"}
]
tokenizer = AutoTokenizer.from_pretrained("FINGU-AI/Chocolatine-Fusion-14B")
prompt = tokenizer.apply_chat_template(message, add_generation_prompt=True, tokenize=False)

# 创建生成管道
pipeline = transformers.pipeline(
    "text-generation",
    model="FINGU-AI/Chocolatine-Fusion-14B",
    tokenizer=tokenizer
)

# 生成文本
sequences = pipeline(
    prompt,
    do_sample=True,
    temperature=0.7,
    top_p=0.9,
    num_return_sequences=1,
    max_length=200,
)
print(sequences[0]['generated_text'])

局限性

Chocolatine-Fusion-14B主要作为模型融合技术的展示，而非独立微调模型：

• 未内置内容审核机制
• 回答质量可能因交互方式和提示词风格而异
• 处理高技术性或领域特定问题时可能需要额外微调

开发信息

• 作者: FINGU-AI, 2025
• 基础模型: jpacifico/Chocolatine-2-14B-Instruct-v2.0b3, jpacifico/Chocolatine-2-14B-Instruct-v2.0b2
• 支持语言: 法语、英语
• 模型类型: 融合型大语言模型
• 许可证: Apache-2.0