base_model:

• Qwen/Qwen2.5-VL-3B-Instruct license_name: qwen-research license_link: https://huggingface.co/Qwen/Qwen2.5-VL-3B-Instruct/blob/main/LICENSE language:
• en pipeline_tag: image-text-to-text tags:
• multimodal
• unsloth
• unsloth library_name: transformers

Qwen2.5-VL-3B-Instruct

模型简介

自Qwen2-VL发布五个月以来，众多开发者基于其视觉语言模型构建了新模型，为我们提供了宝贵反馈。在此期间，我们专注于打造更具实用价值的视觉语言模型。今天，我们激动地推出Qwen家族最新成员：Qwen2.5-VL。

核心升级：

• 视觉理解能力：不仅能精准识别花草鱼虫等常见物体，更擅长分析图像中的文本、图表、图标、图形与版式布局。

• 智能体功能：可直接作为视觉智能体进行推理并动态调用工具，支持电脑与手机操作场景。

• 长视频理解与事件捕捉：可解析超过1小时的视频内容，新增精准定位相关视频片段的事件捕捉能力。

• 多格式视觉定位：通过生成边界框或坐标点精确定位图像对象，并能稳定输出JSON格式的坐标与属性数据。

• 结构化输出生成：针对发票扫描件、表单、表格等数据，支持内容结构化输出，助力金融、商业等场景应用。

架构革新：

• 视频理解的动态分辨率与帧率训练：

通过动态FPS采样将动态分辨率扩展至时间维度，使模型能适应不同采样率的视频理解。同步升级时间维度的mRoPE技术，结合ID与绝对时间对齐，赋予模型学习时序与速度的能力，最终实现精准时间点定位。

• 高效精简的视觉编码器

通过策略性引入窗口注意力机制优化ViT架构，配合SwiGLU与RMSNorm组件，使其与Qwen2.5大语言模型结构对齐，显著提升训练与推理速度。

我们提供30亿、70亿和720亿参数三个版本。本仓库包含30亿参数的指令微调模型。更多信息请访问博客和GitHub。