语言: kn
许可证: apache-2.0

该模型用于检测卡纳达语混合代码中的冒犯性内容。名称中的"mono"指单语设置，即模型仅使用卡纳达语（纯语言和混合代码）数据进行训练。权重初始化自预训练的XLM-Roberta-Base模型，并在目标数据集上通过掩码语言建模进行预训练，最后使用交叉熵损失进行微调。

本模型是在EACL 2021达罗毗荼语系冒犯性语言识别共享任务中表现最佳的多个训练模型之一。基于遗传算法的集成测试预测在排行榜上获得了第二高的加权F1分数（保留测试集的加权F1分数：本模型-0.73，集成模型-0.74）。

论文详情

Debjoy Saha, Naman Paharia, Debajit Chakraborty, Punyajoy Saha, Animesh Mukherjee. "Hate-Alert@DravidianLangTech-EACL2021: 基于Transformer的冒犯性语言检测集成策略"。

任何使用这些资源的已发表作品请引用我们的论文。

@inproceedings{saha-etal-2021-hate,
    title = "Hate-Alert@{D}ravidian{L}ang{T}ech-{EACL}2021: 基于Transformer的冒犯性语言检测集成策略",
    author = "Saha, Debjoy and Paharia, Naman and Chakraborty, Debajit and Saha, Punyajoy and Mukherjee, Animesh",
    booktitle = "第一届达罗毗荼语系语音与语言技术研讨会论文集",
    month = "4月",
    year = "2021",
    address = "基辅",
    publisher = "计算语言学协会",
    url = "https://www.aclweb.org/anthology/2021.dravidianlangtech-1.38",
    pages = "270--276",
    abstract = "社交媒体常常成为各类冒犯性内容的滋生地。对于泰米尔语等低资源语言，由于多语言或特定语言模型表现不佳以及缺乏合适的基准数据集，情况更为复杂。基于EACL 2021的共享任务'达罗毗荼语系冒犯性语言识别'，我们全面探索了不同的Transformer模型，并提出了一种遗传算法技术用于模型集成。我们针对每种语言单独训练的集成模型在泰米尔语子任务中荣获第一，卡纳达语子任务第二，马拉雅拉姆语子任务第一。模型与代码均已开源。",
}