语言:

• 英文

标签:

• 标记分类
• 文本分类
• 问答系统
• 文本到文本生成
• 文本生成

数据集:

• 生物医学文献数据库

SciFive生物医学文献大模型

简介

论文: SciFive: 面向生物医学文献的文本到文本转换模型

作者: Long N. Phan, James T. Anibal, Hieu Tran, Shaurya Chanana, Erol Bahadroglu, Alec Peltekian, Grégoire Altan-Bonnet

使用方法

更多详情请查看我们的GitHub仓库。

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM

tokenizer = AutoTokenizer.from_pretrained("razent/SciFive-large-Pubmed")  
model = AutoModelForSeq2SeqLM.from_pretrained("razent/SciFive-large-Pubmed")

sentence = "APC2基因的鉴定——腺瘤性结肠息肉病肿瘤抑制因子的同源物。"
text =  sentence + " </s>"

encoding = tokenizer.encode_plus(text, pad_to_max_length=True, return_tensors="pt")
input_ids, attention_masks = encoding["input_ids"].to("cuda"), encoding["attention_mask"].to("cuda")

outputs = model.generate(
    input_ids=input_ids, attention_mask=attention_masks,
    max_length=256,
    early_stopping=True
)

for output in outputs:
    line = tokenizer.decode(output, skip_special_tokens=True, clean_up_tokenization_spaces=True)
    print(line)