AIbase

多语言长文本处理
Granite 4.0 Tiny Preview
Apache-2.0
Granite-4-Tiny-Preview 是一个拥有70亿参数的细粒度混合专家（MoE）指令微调模型，基于 Granite-4.0-Tiny-Base-Preview 开发，适用于通用指令跟随任务。
大型语言模型
Transformers
G
ibm-granite
7,906
108
Nomic Xlm 2048
基于XLM-Roberta基础模型微调的版本，采用RoPE（旋转位置编码）替换原始位置嵌入，支持2048序列长度
大型语言模型
Transformers
N
nomic-ai
440
6
Xlm Roberta Longformer Base 16384
MIT
基于XLM-RoBERTa权重初始化的多语言版Longformer模型，支持16384的上下文长度，适用于下游任务的微调。
大型语言模型
Transformers
X
severinsimmler
5,438
26
Xlm Roberta Longformer Base 4096
Apache-2.0
基于XLM-R扩展的长序列处理模型，支持最长4096标记的序列处理，适用于多语言任务
大型语言模型
Transformers
其他
X
markussagen
9,499
37
Xlm Roberta Longformer Base 4096
Apache-2.0
基于XLM-RoBERTa扩展的长序列模型，支持最长4096标记的序列处理，适用于多语言任务
大型语言模型
Transformers
其他
X
Peltarion
64
8