语言:

• 英文

标签:

• 标记分类
• 文本分类
• 问答系统
• 文本到文本生成
• 文本生成

数据集:

• 生物医学文献数据库
• 开放获取期刊全文库

SciFive生物医学文献大模型（Pubmed+PMC版）

模型介绍

论文: SciFive: 面向生物医学文献的文本转换Transformer模型

作者: Long N. Phan, James T. Anibal, Hieu Tran, Shaurya Chanana, Erol Bahadroglu, Alec Peltekian, Grégoire Altan-Bonnet

使用指南

更多细节请查看我们的GitHub仓库。

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM

# 加载预训练模型和分词器
tokenizer = AutoTokenizer.from_pretrained("razent/SciFive-large-Pubmed_PMC")  
model = AutoModelForSeq2SeqLM.from_pretrained("razent/SciFive-large-Pubmed_PMC")

# 输入文本处理示例
sentence = "鉴定APC2基因——腺瘤性结肠息肉病抑癌基因的同源基因。"
text =  sentence + " </s>"

# 编码输入文本
encoding = tokenizer.encode_plus(text, pad_to_max_length=True, return_tensors="pt")
input_ids, attention_masks = encoding["input_ids"].to("cuda"), encoding["attention_mask"].to("cuda")

# 生成输出
outputs = model.generate(
    input_ids=input_ids, 
    attention_mask=attention_masks,
    max_length=256,
    early_stopping=True
)

# 解码输出结果
for output in outputs:
    line = tokenizer.decode(output, skip_special_tokens=True, clean_up_tokenization_spaces=True)
    print(line)