RigoBERTa临床版是西班牙语临床领域最先进的编码器语言模型，基于当前最大的公开西班牙语临床语料库ClinText-SP通过领域自适应预训练开发而成。

针对德语招聘广告领域优化的领域自适应语言模型，基于bert-base-german-cased进行持续预训练

ConfliBERT是一个专门针对政治冲突与暴力事件的预训练语言模型，提供四个不同版本以适应不同需求。

基于BioBERT初始化并在健康相关Reddit帖子上进一步预训练的BERT模型，专注于社交媒体医疗文本处理

基于mengzi-bert-base模型，继续使用20G金融新闻与研究报告数据进行训练，专注于中文金融领域的自然语言处理任务。