基于1万亿高质量法语文本预训练的法语语言模型，是ModernBERT的法语版本

ModernCamemBERT是基于1T高质量法语文本语料库预训练的法语语言模型，是ModernBERT的法语版本，专注于长上下文和高效推理速度。

基于SciBERT检查点进行领域适应性预训练的农业领域专用模型，优化了农业领域文本处理能力。