语言:

• 乌兹别克语 标签:
• 文本生成
• PyTorch
• TensorFlow
• Transformers
• MIT许可
• 乌兹别克语
• GPT2 许可证: Apache-2.0 示例:
• 文本: "开始接种新冠疫苗," 示例标题: "示例1"
• 文本: "人工智能是最发达的" 示例标题: "示例2"

GPTuz模型.

GPTuz是基于GPT-2小型模型的乌兹别克语先进语言模型。

该模型在NVIDIA V100 32GB GPU上，使用来自kun.uz网站的0.53GB数据，通过迁移学习和微调技术训练了超过1天时间。

使用方法

  
from transformers import AutoTokenizer, AutoModelWithLMHead
import torch

tokenizer = AutoTokenizer.from_pretrained("rifkat/GPTuz")
model = AutoModelWithLMHead.from_pretrained("rifkat/GPTuz")

tokenizer.model_max_length=1024 

生成单个词语

text = "开始接种新冠疫苗,"
inputs = tokenizer(text, return_tensors="pt")
outputs = model(**inputs, labels=inputs["input_ids"])
loss, logits = outputs[:2]
predicted_index = torch.argmax(logits[0, -1, :]).item()
predicted_text = tokenizer.decode([predicted_index])
print('输入文本:', text)
print('预测文本:', predicted_text)

生成完整序列

text = "开始接种新冠疫苗, "
inputs = tokenizer(text, return_tensors="pt")


sample_outputs = model.generate(inputs.input_ids,
                                pad_token_id=50256,
                                do_sample=True, 
                                max_length=50, # 设置所需token数量
                                top_k=40,
                                num_return_sequences=1)


for i, sample_output in enumerate(sample_outputs):
    print(">> 生成文本 {}\n\n{}".format(i+1, tokenizer.decode(sample_output.tolist())))

@misc {rifkat_davronov_2022,
	作者       = { {Adilova Fatima,Rifkat Davronov, Samariddin Kushmuratov, Ruzmat Safarov} },
	标题        = { GPTuz (修订版2a7e6c0) },
	年份         = 2022,
	网址          = { https://huggingface.co/rifkat/GPTuz },
	DOI          = { 10.57967/hf/0143 },
	发布者    = { Hugging Face }
}