基础模型:

• Qwen/Qwen2.5-32B-Instruct 数据集:
• nvidia/OpenCodeReasoning 语言:
• en 库名称: transformers 许可证: apache-2.0 标签:
• nvidia
• code 管道标签: text-generation

OpenCodeReasoning-Nemotron-32B-IOI 概述

描述:

OpenCodeReasoning-Nemotron-32B-IOI 是一个大型语言模型（LLM），是 Qwen2.5-32B-Instruct（又称参考模型）的衍生版本。它是一个针对代码生成进行推理后训练的推理模型，支持 32K 个 token 的上下文长度。

该模型可用于商业/非商业用途。

来自 OpenCodeReasoning 的结果

以下结果是每个基准测试 64 次评估 的平均值。

复现我们的结果

• 模型
• 数据集
• 论文

如何使用这些模型？

运行 IOI 基准测试的代码问题推理：

import transformers
import torch

model_id = "nvidia/OpenCodeReasoning-Nemotron-32B-IOI"

pipeline = transformers.pipeline(
    "text-generation",
    model=model_id,
    model_kwargs={"torch_dtype": torch.bfloat16},
    device_map="auto",
)

prompt = """你是一个乐于助人且无害的助手。在回应以下指令之前，你应该逐步思考。

请仅使用 C++ 编程语言。

你必须使用 ```cpp 仅用于最终解决方案代码块，格式如下：
```cpp
// 你的代码在这里
```

{user}
"""

messages = [
    {
        "role": "user",
        "content": prompt.format(user="编写一个程序计算前 $N$ 个斐波那契数的和")},
]

outputs = pipeline(
    messages,
    max_new_tokens=32768,
)
print(outputs[0]["generated_text"][-1]['content'])

运行 Python 程序的代码问题推理：

import transformers
import torch

model_id = "nvidia/OpenCodeReasoning-Nemotron-32B"

pipeline = transformers.pipeline(
    "text-generation",
    model=model_id,
    model_kwargs={"torch_dtype": torch.bfloat16},
    device_map="auto",
)

prompt = """你是一个乐于助人且无害的助手。在回应以下指令之前，你应该逐步思考。

请仅使用 Python 编程语言。

你必须使用 ```python 仅用于最终解决方案代码块，格式如下：
```python
# 你的代码在这里
```

{user}
"""

messages = [
    {
        "role": "user",
        "content": prompt.format(user="编写一个程序计算前 $N$ 个斐波那契数的和")},
]

outputs = pipeline(
    messages,
    max_new_tokens=32768,
)
print(outputs[0]["generated_text"][-1]['content'])