语言: 冰岛语 部件:

• 文本: 今晚我请你吃吗？
• 文本: 总统非常出色。
• 文本: 这汤尝起来。 标签:
• roberta
• 冰岛语
• 掩码语言模型
• pytorch 许可证: cc-by-4.0

IceBERT-ic3

该模型使用fairseq框架，基于RoBERTa-base架构训练而成。这是我们为冰岛语训练的众多模型之一，更多细节请参阅下文引用的论文。所使用的训练数据如下表所示。

引用

该模型在论文https://arxiv.org/abs/2201.05601中有详细描述。如果您使用了该模型，请引用该论文。

@article{DBLP:journals/corr/abs-2201-05601,
  作者    = {V{\'{e}}steinn Sn{\ae}bjarnarson and
              Haukur Barri S{\'{\i}}monarson and
              P{\'{e}}tur Orri Ragnarsson and
              Svanhv{\'{\i}}t Lilja Ing{\'{o}}lfsd{\'{o}}ttir and
              Haukur P{\'{a}}ll J{\'{o}}nsson and
              Vilhj{\'{a}}lmur {\TH}orsteinsson and
              Hafsteinn Einarsson},
  标题    = {热启动与纯净爬取语料库——优质语言模型的配方},
  期刊    = {CoRR},
  卷号    = {abs/2201.05601},
  年份    = {2022},
  网址    = {https://arxiv.org/abs/2201.05601},
  电子印本类型 = {arXiv},
  电子印本 = {2201.05601},
  时间戳 = {2022年1月20日 14:21:35 +0100},
  biburl = {https://dblp.org/rec/journals/corr/abs-2201-05601.bib},
  bibsource = {dblp计算机科学文献库, https://dblp.org}
}