基础模型:

• Qwen/Qwen2.5-VL-32B-Instruct 许可证: apache-2.0 语言:
• 英语 管道标签: 图像文本到文本 标签:
• 多模态
• unsloth 库名称: transformers

Qwen2.5-VL-32B-Instruct

最新更新:

在原有公式的基础上，我们通过强化学习进一步增强了Qwen2.5-VL-32B的数学和问题解决能力。这也显著提升了模型的主观用户体验，调整了响应风格以更好地符合人类偏好。特别是对于数学、逻辑推理和基于知识的问答等客观查询，回答的详细程度和格式清晰度都有了明显提升。

简介

自Qwen2-VL发布以来的五个月里，众多开发者在Qwen2-VL视觉语言模型上构建了新模型，为我们提供了宝贵的反馈。在此期间，我们专注于构建更有用的视觉语言模型。今天，我们很高兴向大家介绍Qwen家族的最新成员：Qwen2.5-VL。

主要增强功能:

• 视觉理解能力: Qwen2.5-VL不仅擅长识别常见的物体如花鸟鱼虫，还能高效分析图像中的文本、图表、图标、图形和布局。

• 代理能力: Qwen2.5-VL可直接作为视觉代理，能够推理并动态调用工具，具备计算机和手机使用能力。

• 理解长视频并捕捉事件: Qwen2.5-VL能够理解超过1小时的视频，并且新增了通过精确定位相关视频片段来捕捉事件的能力。

• 支持多种格式的视觉定位: Qwen2.5-VL可以通过生成边界框或点来精确定位图像中的对象，并能稳定输出坐标和属性的JSON格式。

• 生成结构化输出: 对于发票扫描件、表格等数据，Qwen2.5-VL支持其内容的结构化输出，有利于金融、商业等领域的应用。

模型架构更新:

• 视频理解的动态分辨率和帧率训练:

我们通过采用动态FPS采样将动态分辨率扩展到时间维度，使模型能够以不同采样率理解视频。相应地，我们在时间维度上更新了带有ID和绝对时间对齐的mRoPE，使模型能够学习时间序列和速度，最终获得精确定位特定时刻的能力。

• 精简高效的视觉编码器

我们通过在ViT中策略性地实现窗口注意力来提升训练和推理速度。ViT架构通过SwiGLU和RMSNorm进一步优化，使其与Qwen2.5 LLM的结构保持一致。

我们拥有3、7、32和720亿参数的四个模型。本仓库包含经过指令调优的32B Qwen2.5-VL模型。更多信息，请访问我们的博客和GitHub。