语言:

• 印度尼西亚语

基于IndoT5的释义生成模型

该模型是在翻译版PAWS数据集上训练的IndoT5-base版本。

模型使用示例

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM

tokenizer = AutoTokenizer.from_pretrained("Wikidepia/IndoT5-base-paraphrase")  
model = AutoModelForSeq2SeqLM.from_pretrained("Wikidepia/IndoT5-base-paraphrase")

sentence = "孩子们轮流值日以保持教室整洁"
text =  "释义生成: " + sentence + " </s>"

encoding = tokenizer(text, padding='longest', return_tensors="pt")
outputs = model.generate(
    input_ids=encoding["input_ids"], attention_mask=encoding["attention_mask"],
    max_length=512,
    do_sample=True,
    top_k=200,
    top_p=0.95,
    early_stopping=True,
    num_return_sequences=5
)

模型局限

有时生成的释义会包含原文中不存在的日期信息 :/

致谢

感谢Tensorflow Research Cloud提供TPU v3-8算力支持。