语言:

• tr 标签:
• roberta 许可证: cc-by-nc-sa-4.0 数据集:
• oscar

土耳其语RoBERTa中等规模形态级44k（无大小写）

该模型基于土耳其语，采用掩码语言建模（MLM）目标进行预训练，且为无大小写格式。预训练语料源自OSCAR的土耳其语分块，但经过进一步过滤和清洗。

模型架构类似于bert-medium（8层、8个头、512隐藏维度）。分词算法采用形态级（Morph-level），即通过土耳其语形态分析器（Zemberek）对文本进行切分。词汇表规模为43.6k。

注意：运行此模型前需进行预处理步骤，因为分词器文件并非形态分析器。测试数据集无法直接通过该分词器文件切分为语素，用户需预先使用土耳其语形态分析器（本文案例为Zemberek）处理任何测试数据集后再进行评估。

技术细节与性能对比详见论文： https://arxiv.org/abs/2204.08832

以下代码可用于模型加载与分词处理（示例最大长度514可调整）：

	model = AutoModel.from_pretrained([模型路径])
	#如用于序列分类：
	#model = AutoModelForSequenceClassification.from_pretrained([模型路径], num_labels=[类别数])

	tokenizer = PreTrainedTokenizerFast(tokenizer_file=[文件路径])
	tokenizer.mask_token = "[MASK]"
	tokenizer.cls_token = "[CLS]"
	tokenizer.sep_token = "[SEP]"
	tokenizer.pad_token = "[PAD]"
	tokenizer.unk_token = "[UNK]"
	tokenizer.bos_token = "[CLS]"
	tokenizer.eos_token = "[SEP]"
	tokenizer.model_max_length = 514

BibTeX引用信息

@misc{https://doi.org/10.48550/arxiv.2204.08832,
  doi = {10.48550/ARXIV.2204.08832},
  url = {https://arxiv.org/abs/2204.08832},
  author = {Toraman, Cagri and Yilmaz, Eyup Halit and Şahinuç, Furkan and Ozcelik, Oguzhan},
  keywords = {Computation and Language (cs.CL), FOS: Computer and information sciences, FOS: Computer and information sciences},
  title = {Impact of Tokenization on Language Models: An Analysis for Turkish},
  publisher = {arXiv},
  year = {2022},
  copyright = {Creative Commons Attribution Non Commercial Share Alike 4.0 International}
}