语言: 印尼语
标签:

• roberta
  许可证: mit
  数据集:
• indonli
  小部件示例:
• 文本: "Amir Sjarifoeddin Harahap 1907年4月27日出生于北苏门答腊省棉兰市，1948年12月19日于中爪哇省梭罗逝世，享年41岁。 Amir Sjarifoeddin Harahap依然在世。"

Indo-roberta-indonli

Indo-roberta-indonli是基于Indo-roberta模型的自然语言推理分类器，使用IndoNLI数据集训练。该模型通过迁移学习将预训练的Indo-roberta转化为自然语言推理分类器，并在GitHub仓库提供的验证集、测试集（Test Lay和Test Expert）上进行了性能测试，结果如下：

测试结果

模型训练

训练参数：5个周期，批量大小16，学习率2e-5，权重衰减0.01。各周期指标如下：

使用方法

作为NLI分类器

from transformers import pipeline  
pretrained_name = "StevenLimcorn/indonesian-roberta-indonli"  
nlp = pipeline(  
    "zero-shot-classification",  
    model=pretrained_name,  
    tokenizer=pretrained_name  
)  
nlp("Amir Sjarifoeddin Harahap 1907年4月27日出生于北苏门答腊省棉兰市，1948年12月19日于中爪哇省梭罗逝世，享年41岁。</s></s> Amir Sjarifoeddin Harahap依然在世。")  

免责声明

请注意，预训练RoBERTa模型和INDONLI数据集可能存在的偏见会影响本模型的输出结果。

作者

Indonesian RoBERTa Base IndoNLI由Steven Limcorn训练和评估，所有计算与开发均在Google Colaboratory的免费GPU资源上完成。

参考文献

使用数据集来自IndoNLI：

@inproceedings{indonli,  
    title = "IndoNLI: A Natural Language Inference Dataset for Indonesian",  
    author = "Mahendra, Rahmad and Aji, Alham Fikri and Louvan, Samuel and Rahman, Fahrurrozi and Vania, Clara",  
    booktitle = "Proceedings of the 2021 Conference on Empirical Methods in Natural Language Processing",  
    month = nov,  
    year = "2021",  
    publisher = "Association for Computational Linguistics",  
}