license: gpl-3.0 language:

• en datasets:
• Mxode/Magpie-Pro-10K-GPT4o-mini pipeline_tag: text2text-generation tags:
• text-generation-inference

NanoLM-1B-Instruct-v2

简介

为了探索小模型的潜力，我尝试构建了一系列模型，这些模型可在NanoLM系列中找到。

这是NanoLM-1B-Instruct-v2，基于超过400万条高质量指令数据微调而成。

该模型目前仅支持英文。

模型详情

性能指标

使用方法

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

model_path = 'Mxode/NanoLM-1B-Instruct-v2'

model = AutoModelForCausalLM.from_pretrained(model_path).to('cuda:0', torch.bfloat16)
tokenizer = AutoTokenizer.from_pretrained(model_path)


def get_response(prompt: str, **kwargs):
    generation_args = dict(
        max_new_tokens = kwargs.pop("max_new_tokens", 512),
        do_sample = kwargs.pop("do_sample", True),
        temperature = kwargs.pop("temperature", 0.7),
        top_p = kwargs.pop("top_p", 0.8),
        top_k = kwargs.pop("top_k", 40),
        **kwargs
    )

    messages = [
        {"role": "system", "content": "你是一个乐于助人的助手。"},
        {"role": "user", "content": prompt}
    ]
    text = tokenizer.apply_chat_template(
        messages,
        tokenize=False,
        add_generation_prompt=True
    )
    model_inputs = tokenizer([text], return_tensors="pt").to(model.device)

    generated_ids = model.generate(model_inputs.input_ids, **generation_args)
    generated_ids = [
        output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)
    ]

    response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]
    return response


prompt = "计算(99 - 1) * (3 + 4)"
print(get_response(prompt, do_sample=False))

"""
要计算\((99 - 1) * (3 + 4)\)，请遵循运算顺序，即PEMDAS（括号、指数、乘除、加减）。

首先，计算括号内的表达式：

1. \(99 - 1 = 98\)
2. \(3 + 4 = 7\)

然后，将结果相乘：

\(98 * 7 = 686\)

因此，\((99 - 1) * (3 + 4) = 686\)。
"""