语言: 中文
缩略图: 用于社交分享的缩略图链接
标签:

• 数组
• 标签组

小部件示例:

• 文本: "问题: 在以下语境中，哪个描述最贴切地解释了单词'java'的含义？描述选项: [ '一种由研磨咖啡豆冲泡而成的饮品', '一种平台无关的编程语言', 或 '位于婆罗洲以南的印度尼西亚岛屿' ] 上下文: 我喜欢在早晨喝'java'。"

用于词义消歧的T5-large模型

若在研究中使用了本模型，请引用以下文献：

@article{wahle2021incorporating,
  title={将词义消歧融入神经语言模型},
  author={瓦勒, 简·菲利普 and 鲁阿斯, 特里 and 莫伊施克, 诺曼 and 吉普, 贝拉},
  journal={arXiv预印本 arXiv:2106.07967},
  year={2021}
}

此为基于SemCor 3.0数据集训练后的T5-large模型检查点。

补充说明：

• t5-large模型主页
• 《探索文本到文本统一转换器的迁移学习极限》论文链接
• 谷歌官方实现

加载模型进行小样本分类的示例代码：

from transformers import AutoModelForSeq2SeqLM, AutoTokenizer

model = AutoModelForSeq2SeqLM.from_pretrained("jpelhaw/t5-word-sense-disambiguation")
tokenizer = AutoTokenizer.from_pretrained("jpelhaw/t5-word-sense-disambiguation")

input = '''问题: 在以下语境中，哪个描述最贴切地解释了单词"java"的含义？
描述选项:[ "一种由研磨咖啡豆冲泡而成的饮品", 
            "一种平台无关的编程语言", 或
            "位于婆罗洲以南的印度尼西亚岛屿" ] 
上下文: 我喜欢在早晨喝"java"。'''

example = tokenizer.tokenize(input, add_special_tokens=True)

answer = model.generate(input_ids=example['input_ids'], 
                       attention_mask=example['attention_mask'], 
                       max_length=135)
                       
# 输出: "一种由研磨咖啡豆冲泡而成的饮品"