library_name: transformers
license: mit

RombUltima-32B

FINGU-AI/RombUltima-32B 是一个融合模型，结合了 rombodawg/Rombos-LLM-V2.5-Qwen-32b 和 Sakalti/ultiima-32B 的优势。该模型保留了 Qwen 和 Ultima 架构各自的优点，同时通过优化融合提升了推理能力、多语言理解能力以及多轮对话表现。

训练与微调

RombUltima-32B 基于其父模型的线性合并（权重各占 0.5），实现了平衡融合，既继承了 Rombos 的结构化知识，又融合了 Ultima 的泛化能力。

• 分词方法： 采用联合分词器以最大化词汇覆盖范围。
• 精度： 以 float16 精度训练和微调，确保高效推理。
• 长上下文支持： 支持最多 32K tokens（基于 Qwen-32B），在硬件允许下稳定生成长度可达 8K tokens。
• 多语言能力： 在英语、法语、中文等全球语言中表现优异。

性能与基准测试

OpenLLM 排行榜

📌 即将公布 —— 与主流大语言模型基准的对比评估。

MT-Bench

📌 即将公布 —— 多轮对话性能分析。

使用方法

可通过以下代码运行该模型：

import transformers  
from transformers import AutoTokenizer  

# 格式化提示  
message = [  
    {"role": "system", "content": "你是一个乐于助人的AI助手。"},  
    {"role": "user", "content": "什么是大语言模型？"}  
]  
tokenizer = AutoTokenizer.from_pretrained("FINGU-AI/RombUltima-32B")  
prompt = tokenizer.apply_chat_template(message, add_generation_prompt=True, tokenize=False)  

# 创建流水线  
pipeline = transformers.pipeline(  
    "text-generation",  
    model="FINGU-AI/RombUltima-32B",  
    tokenizer=tokenizer  
)  

# 生成文本  
sequences = pipeline(  
    prompt,  
    do_sample=True,  
    temperature=0.7,  
    top_p=0.9,  
    num_return_sequences=1,  
    max_length=200,  
)  
print(sequences[0]['generated_text'])  

合并细节

• 父模型：
  • 🟢 rombodawg/Rombos-LLM-V2.5-Qwen-32b（权重：0.5）
  • 🟢 Sakalti/ultiima-32B（权重：0.5）
• 合并方法： 线性合并
• 分词器来源： 联合分词器
• 精度： Float16

许可与用途

• 许可： 受合并模型原始许可协议约束。
• 用途： 研究、内容生成、多语言应用及通用AI辅助。
• 局限性： 尽管模型在结构化推理和多语言理解上表现优异，但仍可能存在幻觉或偏见。

📌 反馈与贡献请访问：Hugging Face上的FINGU-AI。