library_name: transformers tags:

• 数学
• 文本生成推理
• 代码
• 3B license: llama3.2 language:
• 英文 base_model:
• meta-llama/Llama-3.2-3B-Instruct pipeline_tag: 文本生成

Ganymede-Llama-3.3-3B预览版

Ganymede-Llama-3.3-3B预览版基于Llama-3.2-3B-Instruct架构，具备解锁的强化推理能力和改进的数学分析性能。该模型在LlamaInstruct系列的高质量合成数据集上微调，擅长思维链(CoT)推理、逻辑问题解决和结构化数据理解，是处理复杂推理任务、指令跟随和文本生成的理想选择，在多轮对话和长上下文任务中展现出卓越的适应性。

核心升级

1. 解锁强化推理：增强的多步骤问题解决、逻辑推导和上下文分析能力
2. 数学与分析卓越性：显著提升数学解题、定理证明和复杂数值分析能力
3. 精细化指令跟随：可生成结构化响应（如JSON/XML/Markdown）及长文本（4000+token）
4. 扩展长上下文支持：支持128K token处理，长文记忆与连贯性显著提升
5. 高级适应性：在角色扮演、多轮对话和多样化系统提示场景表现优异
6. 多语言精通：支持20+语言，包括英语、中文、法语、西班牙语、葡萄牙语、德语等

Transformers快速入门

from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "prithivMLmods/Ganymede-Llama-3.3-3B-Preview"

model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype="auto",
    device_map="auto",
    trust_remote_code=True
)
tokenizer = AutoTokenizer.from_pretrained(model_name)

prompt = "解释人工智能中的逻辑推理概念"
messages = [
    {"role": "system", "content": "你是专精推理、逻辑与数学分析的AI助手"},
    {"role": "user", "content": prompt}
]
text = tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True
)
model_inputs = tokenizer([text], return_tensors="pt").to(model.device)

generated_ids = model.generate(
    **model_inputs,
    max_new_tokens=256
)
generated_ids = [
    output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)
]

response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]
print(response)

应用场景

• 高级逻辑分析：适用于多步骤问题求解、演绎推理和认知任务
• 数学计算增强：擅长数值分析、定理证明、符号推理和复杂运算
• 代码生成调试：可生成优化代码，检测程序错误，提升开发效率
• 结构化数据处理：高效处理表格/JSON等结构化格式的数据应用
• 多语言推理翻译：支持20+语言的全球化AI应用
• 长文本生成：适合生成技术文档、研究论文、操作指南和深度报告

使用限制

1. 中等算力需求：需中高端消费级GPU获得最佳推理性能
2. 语言差异性：对低资源语言的响应质量可能存在波动
3. 长文本误差累积：连续生成可能伴随一致性下降风险
4. 现实认知局限：知识截止于训练数据，无法感知实时事件
5. 提示词敏感性：输出质量高度依赖提示词的清晰度与针对性