许可证: mit
语言: ja
库名称: transformers
标签:
- pytorch
- deberta
- deberta-v2
- 问答系统
- question answering
- squad
数据集:
- 维基百科
- cc100
- oscar
评估指标:
- 准确率

该模型是基于deberta-v2-base-japanese微调后用于问答任务

此模型使用驾驶领域问答数据集（DDQA）（https://nlp.ist.i.kyoto-u.ac.jp/index.php?Driving%20domain%20QA%20datasets）对deberta-v2-base-japanese进行了微调。

适用于问答任务（SQuAD）。

该模型是基于deberta-v2-base-japanese微调的问答模型

本模型使用DDQA数据集进行微调。

可用于问答任务。

使用方法

请安装transformers、pytorch、sentencepiece和Juman++。
通过运行以下代码，可以执行问答任务：

import torch
from transformers import AutoTokenizer, AutoModelForQuestionAnswering

tokenizer = AutoTokenizer.from_pretrained('ku-nlp/deberta-v2-base-japanese')
model=AutoModelForQuestionAnswering.from_pretrained('Mizuiro-sakura/deberta-v2-base-japanese-finetuned-QAe') # 加载预训练模型

text={
    'context':'我的名字是EIMI。喜欢的食物是草莓。爱好是和大家聊天。',
    'question':'喜欢吃什么食物'
}

input_ids=tokenizer.encode(text['question'],text['context']) # 使用tokenizer进行分词并转换为编码
output= model(torch.tensor([input_ids])) # 使用预训练模型进行分析
prediction = tokenizer.decode(input_ids[torch.argmax(output.start_logits): torch.argmax(output.end_logits)]) # 提取答案对应的部分
print(prediction)

模型精度

精确匹配（Exact Match）: 0.8038277511961722

F1分数: 0.8959389668095072

deberta-v2-base-japanese是什么？

该模型基于日语维基百科（3.2GB）、cc100（85GB）和oscar（54GB）训练而成。
由京都大学黑桥实验室公开发布。

模型描述

这是一个基于日语维基百科、CC-100日语部分和OSCAR日语部分预训练的日语DeBERTa V2基础模型。

致谢

感谢京都大学黑桥实验室公开模型。
I would like to thank Kurohashi Lab at Kyoto University.