许可证：其他
许可证名称：deepseek
许可证链接：https://github.com/deepseek-ai/DeepSeek-Math/blob/main/LICENSE-MODEL

[🏠主页] | [🤖 与DeepSeek LLM对话] | [Discord] | [微信]

论文链接👁️

1. DeepSeekMath 简介

详见介绍。

2. 使用方法

以下是一些使用示例。

聊天补全

❗❗❗ 请使用思维链提示来测试 DeepSeekMath-Instruct 和 DeepSeekMath-RL：

• 英文问题：{问题}\n请逐步推理，并将最终答案放在 \boxed{} 中。

• 中文问题：{问题}\n请通过逐步推理来解答问题，并把最终答案放置于 \boxed{} 中。

import torch  
from transformers import AutoTokenizer, AutoModelForCausalLM, GenerationConfig  

model_name = "deepseek-ai/deepseek-math-7b-instruct"  
tokenizer = AutoTokenizer.from_pretrained(model_name)  
model = AutoModelForCausalLM.from_pretrained(model_name, torch_dtype=torch.bfloat16, device_map="auto")  
model.generation_config = GenerationConfig.from_pretrained(model_name)  
model.generation_config.pad_token_id = model.generation_config.eos_token_id  

messages = [  
    {"role": "user", "content": "x^2 从 0 到 2 的积分是多少？\n请逐步推理，并将最终答案放在 \\boxed{} 中。"}  
]  
input_tensor = tokenizer.apply_chat_template(messages, add_generation_prompt=True, return_tensors="pt")  
outputs = model.generate(input_tensor.to(model.device), max_new_tokens=100)  

result = tokenizer.decode(outputs[0][input_tensor.shape[1]:], skip_special_tokens=True)  
print(result)  

如果不使用 apply_chat_template 函数，也可以按照以下模板与模型交互。注意 messages 应替换为您的输入。

用户：{messages[0]['content']}  

助手：{messages[1]['content']}用户：{messages[2]['content']}  

助手：  

注意： 默认情况下（add_special_tokens=True），我们的分词器会自动添加 bos_token。此外，由于系统提示与此版本模型不兼容，我们建议不要在输入中包含系统提示。

3. 许可证

本代码仓库遵循 MIT 许可证。使用 DeepSeekMath 模型需遵守模型许可证。DeepSeekMath 支持商业用途。

详见 LICENSE-MODEL。

4. 联系我们

如有任何问题，请提交 issue 或发送邮件至 service@deepseek.com。