许可证：mit
数据集：

• HuggingFaceFW/fineweb
• HuggingFaceFW/fineweb-2
  任务标签：填充掩码

makiart/multilingual-ModernBert-base-preview

该模型由Algomatic团队开发，计算资源由ABCI生成AI黑客松提供。

• 上下文长度： 8192
• 词汇量： 151,680
• 总训练标记数： 约2500亿标记
• 参数量： 2.28亿
• 非嵌入参数量： 1.1亿
• 使用了fineweb和fineweb2数据集

使用方法

安装所需包：

pip install -U transformers>=4.48.0  

若GPU支持FlashAttention，可通过以下命令安装以实现更高效推理：

pip install flash-attn --no-build-isolation  

示例用法

import torch  
from transformers import AutoModelForMaskedLM, AutoTokenizer, pipeline  

model = AutoModelForMaskedLM.from_pretrained("makiart/multilingual-ModernBert-base", torch_dtype=torch.bfloat16)  
tokenizer = AutoTokenizer.from_pretrained("makiart/multilingual-ModernBert-base")  
fill_mask = pipeline("fill-mask", model=model, tokenizer=tokenizer)  

results = fill_mask("우리의 대부분의 고뇌는 가능했을 또 다른 인생을 [MASK] 데서 시작된다.")  

for result in results:  
    print(result)  

# {'score': 0.248046875, 'token': 128956, 'token_str': ' 하는', 'sequence': '우리의 대부분의 고뇌는 가능했을 또 다른 인생을 하는 데서 시작된다.'}  
# {'score': 0.1328125, 'token': 61298, 'token_str': ' 한', 'sequence': '우리의 대부분의 고뇌는 가능했을 또 다른 인생을 한 데서 시작된다.'}  
# {'score': 0.06689453125, 'token': 95002, 'token_str': ' 할', 'sequence': '우리의 대부분의 고뇌는 가능했을 또 다른 인생을 할 데서 시작된다.'}  
# {'score': 0.055419921875, 'token': 130679, 'token_str': ' 위한', 'sequence': '우리의 대부분의 고뇌는 가능했을 또 다른 인생을 위한 데서 시작된다.'}  
# {'score': 0.04052734375, 'token': 131582, 'token_str': ' 통해', 'sequence': '우리의 대부분의 고뇌는 가능했을 또 다른 인생을 통해 데서 시작된다.'}  

results = fill_mask("Pinning our hopes on the unreliable notion of our potential is the root of all our [MASK].")  

for result in results:  
    print(result)  

# {'score': 0.20703125, 'token': 5322, 'token_str': ' problems', 'sequence': 'Pinning our hopes on the unreliable notion of our potential is the root of all our problems.'}  
# {'score': 0.09765625, 'token': 27850, 'token_str': ' failures', 'sequence': 'Pinning our hopes on the unreliable notion of our potential is the root of all our failures.'}  
# {'score': 0.040771484375, 'token': 34565, 'token_str': ' troubles', 'sequence': 'Pinning our hopes on the unreliable notion of our potential is the root of all our troubles.'}  
# {'score': 0.03173828125, 'token': 18707, 'token_str': ' dreams', 'sequence': 'Pinning our hopes on the unreliable notion of our potential is the root of all our dreams.'}  
# {'score': 0.028076171875, 'token': 23209, 'token_str': ' fears', 'sequence': 'Pinning our hopes on the unreliable notion of our potential is the root of all our fears.'}  

results = fill_mask("我们必须[MASK]，我们只能成为此时此地的那个自己，而无法成为其他任何人。")  

for result in results:  
    print(result)  

# {'score': 0.177734375, 'token': 99392, 'token_str': '知道', 'sequence': '我们必须知道，我们只能成为此时此地的那个自己，而无法成为其他任何人。'}  
# {'score': 0.138671875, 'token': 104953, 'token_str': '承认', 'sequence': '我们必须承认，我们只能成为此时此地的那个自己，而无法成为其他任何人。'}  
# {'score': 0.12255859375, 'token': 101265, 'token_str': '明白', 'sequence': '我们必须明白，我们只能成为此时此地的那个自己，而无法成为其他任何人。'}  
# {'score': 0.07421875, 'token': 105712, 'token_str': '记住', 'sequence': '我们必须记住，我们只能成为此时此地的那个自己，而无法成为其他任何人。'}  
# {'score': 0.0654296875, 'token': 106836, 'token_str': '认识到', 'sequence': '我们必须认识到，我们只能成为此时此地的那个自己，而无法成为其他任何人。'}  

模型描述

• 训练方法： 采用两阶段掩码语言建模（MLM）训练：
  • 掩码率： 30%
  • 训练数据： 约2000亿标记（上下文长度1024）和500亿标记（上下文长度8192）。
• 分词器： 基于Qwen2.5，具有以下特性：
  • 词汇量151,680个标记。
  • 定制化设计可区分代码缩进，优化编程文本处理。
• 数据集：
  • 使用fineweb和fineweb2数据集。
  • 对数据量丰富的语言进行了降采样。
• 计算资源： 使用ABCI提供的1个节点（H200 x 8）训练约3天。

评估

尚未进行全面评估😭。

根据总训练标记数推测，该模型性能可能逊于现有模型。

此模型由Algomatic团队在ABCI生成AI黑客松提供的计算资源上开发。

• 上下文长度：8192
• 词汇量：151,680
• 总训练标记数：约2500亿标记
• 参数量：2.28亿
• 非嵌入参数量：1.1亿
• 使用fineweb和fineweb2数据集

使用方法

pip install -U transformers>=4.48.0  

若GPU支持FlashAttention，可安装以下包提升推理效率：

pip install flash-attn --no-build-isolation  

示例用法

import torch  
from transformers import AutoModelForMaskedLM, AutoTokenizer, pipeline  

model = AutoModelForMaskedLM.from_pretrained("makiart/multilingual-ModernBert-base-preview", torch_dtype=torch.bfloat16)  
tokenizer = AutoTokenizer.from_pretrained("makiart/multilingual-ModernBert-base-preview")  
fill_mask = pipeline("fill-mask", model=model, tokenizer=tokenizer)  

results = fill_mask("大きな[MASK]を一人で切り分けて食べるというのは孤独の極地ですからね")  

for result in results:  
    print(result)  

# {'score': 0.11865234375, 'token': 142732, 'token_str': 'ケーキ', 'sequence': '大きなケーキを一人で切り分けて食べるというのは孤独の極地ですからね'}  
# {'score': 0.10498046875, 'token': 52853, 'token_str': '物', 'sequence': '大きな物を一人で切り分けて食べるというのは孤独の極地ですからね'}  
# {'score': 0.08154296875, 'token': 108371, 'token_str': '魚', 'sequence': '大きな魚を一人で切り分けて食べるというのは孤独の極地ですからね'}  
# {'score': 0.05615234375, 'token': 111974, 'token_str': '料理', 'sequence': '大きな料理を一人で切り分けて食べるというのは孤独の極地ですからね'}  
# {'score': 0.043701171875, 'token': 115913, 'token_str': '動物', 'sequence': '大きな動物を一人で切り分けて食べるというのは孤独の極地ですからね'}  

模型描述

• 采用两阶段MLM训练：
  • 掩码率30%
  • 1024上下文长度训练约2000亿标记
  • 8192上下文长度训练约500亿标记
• 分词器基于Qwen2.5：
  • 词汇量151,680
  • 定制化支持代码缩进识别
• 数据集：
  • 使用fineweb和fineweb2
  • 对数据量大的语言进行降采样
• 计算资源：
  • 使用ABCI提供的1节点（H200 x 8）训练约3天

评估

尚未进行完整评估😭

根据总训练标记数推测，模型性能可能不及现有模型。