base_model:

• Qwen/Qwen2.5-32B-Instruct datasets:
• nvidia/OpenCodeReasoning language:
• en library_name: transformers license: apache-2.0 tags:
• nvidia
• code pipeline_tag: text-generation

OpenCodeReasoning-Nemotron-32B 概述

描述：

OpenCodeReasoning-Nemotron-32B 是一个基于 Qwen2.5-32B-Instruct（又称参考模型）衍生的大型语言模型（LLM）。该模型经过针对代码生成推理能力的专项训练，支持 32K token 的上下文长度。

本模型可自由用于商业/非商业用途。

OpenCodeReasoning 测试结果

以下结果为各基准测试进行64次评估的平均值。

复现我们的结果

• 模型集合
• 数据集
• 论文

如何使用这些模型？

运行代码问题推理的示例：

import transformers
import torch

model_id = "nvidia/OpenCodeReasoning-Nemotron-32B"

pipeline = transformers.pipeline(
    "text-generation",
    model=model_id,
    model_kwargs={"torch_dtype": torch.bfloat16},
    device_map="auto",
)

prompt = """你是一个乐于助人且无害的助手。在回应以下指令前，请逐步思考。

请仅使用python编程语言。

最终解决方案代码块必须使用```python并按以下格式呈现：
```python
# 你的代码
```

{用户输入}
"""

messages = [
    {
        "role": "user",
        "content": prompt.format(用户输入="编写计算前$N$个斐波那契数之和的程序")},
]

outputs = pipeline(
    messages,
    max_new_tokens=32768,
)
print(outputs[0]["generated_text"][-1]['content'])