语言:

• 英文 任务标签: 文本生成 模型: PY007/TinyLlama-1.1B-intermediate-step-715k-1.5T 数据集: ArmelR/oasst1_guanaco_english 许可证: apache-2.0

TinyLLama 1.5T检查点，训练用于回答问题。

f"{'提示'}\n{'完成'}\n<END>"

无需特殊格式，只需问题，然后换行开始回答。

from transformers import pipeline, AutoTokenizer, AutoModelForCausalLM

pipe = pipeline("text-generation", model="Corianas/tiny-llama-miniguanaco-1.5T")# 直接加载模型

tokenizer = AutoTokenizer.from_pretrained("Corianas/tiny-llama-miniguanaco-1.5T")
model = AutoModelForCausalLM.from_pretrained("Corianas/tiny-llama-miniguanaco-1.5T")

# 使用我们的下一个模型运行文本生成管道
prompt = "什么是大型语言模型？"
pipe = pipeline(task="text-generation", model=model, tokenizer=tokenizer, max_length=500)
result = pipe(f"<s>{prompt}")
print(result[0]['generated_text'])

结果将包含答案，以新行上的<END>结束。