CroissantLLM是一个基于3T英法双语token训练的13亿参数语言模型，专为研究和工业界设计，可在消费级硬件上流畅运行。

CroissantLLM是一个基于3T英法双语token训练的13亿参数语言模型，专为消费级硬件设计，支持流畅的双语处理。

该模型基于Helsinki-NLP/opus-mt-en-fr，在IWSLT17数据集上使用上下文标签格式进行英法翻译的进一步训练，并在SCAT+数据集上微调。

XLM模型是一个基于因果语言建模目标预训练的英法双语Transformer模型，由Guillaume Lample和Alexis Conneau提出。

这是distilbert-base-multilingual-cased的精简版本，专门处理英语和法语两种语言，保持了原始模型的表征能力和准确度。