许可证：apache-2.0
基础模型：

• ByteDance-Seed/BAGEL-7B-MoT
  基础模型关系：量化版本
  任务标签：多模态转换
  库名称：bagel-mot
  标签：
• 量化
• bagel
• mot
• int8

内容

ByteDance-Seed/BAGEL-7B-MoT的INT8量化版本

 BAGEL • 多模态理解与生成的统一模型

我们推出BAGEL，一个开源的7B活跃参数（总计14B）的多模态基础模型，基于大规模交错多模态数据训练。BAGEL在标准多模态理解排行榜上超越了当前顶尖的开源视觉语言模型（如Qwen2.5-VL和InternVL-2.5），并在文本到图像生成质量上与SD3等专业生成器竞争。此外，BAGEL在经典图像编辑场景中展现出优于领先开源模型的定性结果。更重要的是，它扩展至自由形式视觉编辑、多视角合成和世界导航等能力，这些任务构成了超越传统图像编辑模型的“世界建模”范畴。

本仓库托管BAGEL的模型权重。安装、使用说明及更多文档请访问我们的GitHub仓库。

 方法

BAGEL采用混合专家Transformer架构（MoT），最大化模型从多样化多模态信息中学习的能力。遵循容量最大化原则，它使用两个独立编码器分别捕获图像的像素级和语义级特征。整体框架基于“下一组令牌预测”范式，模型通过预测语言或视觉令牌组作为压缩目标进行训练。

BAGEL通过预训练、持续训练和基于数万亿交错多模态令牌（涵盖语言、图像、视频和网络数据）的监督微调扩展MoT容量。它在标准理解和生成基准测试中超越开源模型，并展现出自由形式图像编辑、未来帧预测、3D操作、世界导航和序列推理等高级多模态上下文能力。

 涌现特性

随着BAGEL预训练使用的多模态令牌数量增加，我们在理解、生成和编辑任务中观察到持续的性能提升。不同能力在不同训练阶段涌现——多模态理解和生成较早出现，随后是基础编辑，而复杂的智能编辑则在后期显现。这种阶段性进展表明了一种涌现模式，高级多模态推理建立在良好基础技能之上。消融研究进一步显示，结合VAE和ViT特征显著提升智能编辑能力，凸显视觉语义上下文在实现复杂多模态推理中的重要性。

 基准测试

1. 视觉理解

2. 文本到图像生成 • GenEval

3. 图像编辑

许可证

BAGEL基于Apache 2.0许可证发布。它微调自Qwen2.5-7B-Instruct和siglip-so400m-14-384-flash-attn2模型，并使用了FLUX.1-schnell VAE模型，三者均遵循Apache 2.0协议。

 引用

@article{deng2025bagel,  
  title   = {统一多模态预训练中的涌现特性},  
  author  = {邓超瑞、朱德尧、李坤昌、苟晨辉、李峰、王泽宇、钟舒、余伟豪、聂晓楠、宋子昂、石光、范浩奇},  
  journal = {arXiv预印本 arXiv:2505.14683},  
  year    = {2025}  
}