库名称：transformers 标签：[]

使用方法

建议至少使用4张A100显卡运行

Huggingface

from transformers import AutoTokenizer, AutoModelForCausalLM, pipeline
import torch

tokenizer = AutoTokenizer.from_pretrained("lightblue/ao-karasu-72B")
model = AutoModelForCausalLM.from_pretrained("lightblue/ao-karasu-72B", device_map="auto")

pipe = pipeline("text-generation", model=model, tokenizer=tokenizer)

messages = [{"role": "system", "content": "你是一个AI助手。"}]
messages.append({"role": "user", "content": "英国的首相是谁？"})

prompt = tokenizer.apply_chat_template(conversation=messages, add_generation_prompt=True, tokenize=False)

pipe(prompt, max_new_tokens=100, do_sample=False, temperature=0.0, return_full_text=False)

vLLM

from vllm import LLM, SamplingParams

sampling_params = SamplingParams(temperature=0.0, max_tokens=100)
llm = LLM(model="lightblue/aokarasu-72B", tensor_parallel_size=4)

messages = [{"role": "system", "content": "你是一个AI助手。"}]
messages.append({"role": "user", "content": "英国的首相是谁？"})
prompt = llm.llm_engine.tokenizer.tokenizer.apply_chat_template(conversation=messages, add_generation_prompt=True, tokenize=False)
prompts = [prompt]

outputs = llm.generate(prompts, sampling_params)
for output in outputs:
    prompt = output.prompt
    generated_text = output.outputs[0].text
    print(f"提示: {prompt!r}, 生成文本: {generated_text!r}")

训练详情

英文开发博客

日语博客

训练数据

从超过11亿字符的数据集中选取了大约2000万字符的样本，数据集构成如下：

~4.5亿字符来自基于维基百科的问答（与Qarasu相同）

~2亿字符来自技术博客（新增）

~2亿字符来自日本问答网站的答案（新增）

~1亿字符来自LLM生成的提示和回答（与Qarasu相同）

~7000万字符来自新闻文章（新增）

训练计划

在A100（80GB）GPU上训练约1天