许可证:apache-2.0
标签:
- 训练生成
模型索引:
- 名称:distilbert-base-uncased-indonesia-squadv2
结果:[]
小部件:
- 文本:"谁建立了巽他普拉?"
上下文:"公元397年,普尔纳瓦尔曼国王建立了巽他普拉,位于西爪哇北岸,作为王国的新首都。这个塔鲁马纳加拉王国的首都很可能位于雅加达北部图古区和西爪哇勿加泗县之间的某个地方。普尔纳瓦尔曼在该地区各处留下了七块纪念石碑,包括现在的万丹省和西爪哇省,上面刻有他的名字"
示例标题:"示例1 - 名称"
- 文本:"荷兰人何时来到雅加达?"
上下文:"荷兰人于16世纪末来到雅加达,此前曾在1596年停靠万丹。17世纪初的雅加达由雅加达王子统治,他是万丹苏丹国的一位亲属。"
示例标题:"示例2 - 时间"
- 文本:"雅加达的生日是什么时候?"
上下文:"将6月22日定为雅加达的生日是基于法塔希拉于1527年6月22日成功将葡萄牙人从巽他卡拉帕驱逐出去的时刻。"
示例标题:"示例3 - 时间"
distilbert-base-uncased-indonesia-squadv2
该模型是基于distilbert-base-uncased在未知数据集上微调的版本。
在评估集上取得了以下结果:
模型描述
需要更多信息
预期用途与限制
需要更多信息
训练与评估数据
需要更多信息
训练过程
训练超参数
训练过程中使用了以下超参数:
- 学习率:2e-05
- 训练批次大小:8
- 评估批次大小:8
- 随机种子:42
- 优化器:Adam,参数为betas=(0.9,0.999),epsilon=1e-08
- 学习率调度器类型:线性
- 训练轮数:3
训练结果
训练损失 |
轮次 |
步数 |
验证损失 |
2.1676 |
1.0 |
14833 |
2.0658 |
1.865 |
2.0 |
29666 |
1.9552 |
1.6669 |
3.0 |
44499 |
1.9144 |
框架版本
- Transformers 4.25.1
- Pytorch 1.12.1+cu113
- Datasets 2.7.1
- Tokenizers 0.13.2
评估结果
{'exact': 42.29721064443732,
'f1': 54.120071422699546,
'total': 24952,
'HasAns_exact': 42.29721064443732,
'HasAns_f1': 54.120071422699546,
'HasAns_total': 24952,
'best_exact': 42.29721064443732,
'best_exact_thresh': 0.0,
'best_f1': 54.120071422699546,
'best_f1_thresh': 0.0}
简单使用
from transformers import pipeline
qa_pipeline = pipeline(
"question-answering",
model="asaduas/distilbert-base-uncased-indonesia-squadv2",
tokenizer="asaduas/distilbert-base-uncased-indonesia-squadv2"
)
qa_pipeline(
{
'context': "1512年,阿方索·德·阿尔布克尔克还派遣安东尼奥·阿尔布雷乌和弗朗西斯科·塞劳率领舰队寻找通往马鲁古香料产地的路线。沿途,他们停靠了马都拉、巴厘岛和龙目岛。在爪哇船长的带领下,舰队抵达班达群岛,继续向北航行直至特尔纳特。",
'question': "1512年阿方索·德·阿尔布克尔克派谁去了?"
}
)
输出:
[
{'score': 0.8919295072555542,
'start': 51,
'end': 88,
'answer': ' 安东尼奥·阿尔布雷乌和弗朗西斯科·塞劳'}
]