许可证: mit
语言: 乌克兰语
标签:

• 训练生成
  模型索引:
• 名称: ukrainian-qa
  结果: []
  小部件示例:
• 文本: "Що відправлять для ЗСУ?"
  上下文: "Про це повідомив міністр оборони Арвідас Анушаускас. Уряд Литви не має наміру зупинятися у військово-технічній допомозі Україні. Збройні сили отримають антидрони, тепловізори та ударний безпілотник. «Незабаром Литва передасть Україні не лише обіцяні бронетехніку, вантажівки та позашляховики, але також нову партію антидронів та тепловізорів. І, звичайно, Байрактар, який придбають на зібрані литовцями гроші», - написав глава Міноборони."

乌克兰问答模型

该模型是基于ukr-models/xlm-roberta-base-uk在UA-SQuAD数据集上微调的版本。

训练脚本链接 - https://github.com/robinhad/ukrainian-qa
在评估集上达到以下结果:

• 损失值: 1.4778

模型描述

需补充更多信息

使用方法

from transformers import pipeline, AutoTokenizer, AutoModelForQuestionAnswering  
model_name = "robinhad/ukrainian-qa"  

tokenizer = AutoTokenizer.from_pretrained(model_name)  
model = AutoModelForQuestionAnswering.from_pretrained(model_name)  

qa_model = pipeline("question-answering", model=model.to("cpu"), tokenizer=tokenizer)  
question = "Де ти живеш?"  
context = "Мене звати Сара і я живу у Лондоні"  
qa_model(question = question, context = context)  

预期用途与限制

需补充更多信息

训练与评估数据

需补充更多信息

训练过程

训练超参数

训练时使用以下超参数:

• 学习率: 2e-05
• 训练批次大小: 16
• 评估批次大小: 16
• 随机种子: 42
• 优化器: Adam (beta1=0.9, beta2=0.999, epsilon=1e-08)
• 学习率调度器类型: 线性
• 训练轮次: 6

训练结果

框架版本

• Transformers 4.19.2
• Pytorch 1.11.0
• Datasets 2.2.2
• Tokenizers 0.12.1