许可证：apache-2.0
基础模型：

• lmsys/vicuna-7b-v1.5
• openai/clip-vit-large-patch14-336
  任务标签：图像文本生成文本

p-MoD：通过渐进比例衰减构建混合深度多模态大语言模型

此为p-MoD：通过渐进比例衰减构建混合深度多模态大语言模型的官方模型检查点。
代码实现请参阅本仓库。

模型描述

本模型基于LCS-558K图像描述数据预训练，并在779K LLaVA-NeXT指令数据上进行指令微调。

引用

若您的研究或应用受益于本模型，请引用我们的论文：

@article{zhang2024pmod,  
  title={p-MoD: Building Mixture-of-Depths MLLMs via Progressive Ratio Decay},  
  author={Zhang, Jun and Meng, Desen and Qi, Ji and Huang, Zhenpeng and Wu, Tao and Wang, Limin},  
  journal={arXiv preprint arXiv:2412.04449},  
  year={2024}  
}  

许可

Llama 2采用LLAMA 2社区许可证授权，
版权归Meta Platforms, Inc.所有。