许可证: 其他 许可证名称: qwen 许可证链接: https://huggingface.co/Qwen/Qwen2.5-VL-72B-Instruct/blob/main/LICENSE 语言:

• 英文 任务标签: 图像文本到文本 标签:
• 多模态 库名称: transformers 基础模型:
• Qwen/Qwen2.5-VL-72B-Instruct

Qwen2.5-VL-72B-Instruct-Pointer-AWQ

由于官方的Qwen/Qwen2.5-VL-72B-Instruct-AWQ目前尚不支持在vllm上使用张量并行，本模型修复了这一问题，支持在2、4或8个GPU上使用--tensor-parallel参数。请使用vllm==0.7.3版本。

Qwen2.5-VL-72B-Instruct

简介

自Qwen2-VL发布以来的五个月里，众多开发者基于Qwen2-VL视觉语言模型构建了新模型，为我们提供了宝贵的反馈。在此期间，我们专注于构建更有用的视觉语言模型。今天，我们很高兴推出Qwen家族的最新成员：Qwen2.5-VL。

主要增强功能：

• 视觉理解能力：Qwen2.5-VL不仅擅长识别常见物体如花鸟鱼虫，还能高度分析图像中的文本、图表、图标、图形和布局。

• 代理能力：Qwen2.5-VL可直接作为视觉代理，进行推理并动态调用工具，具备计算机和手机使用能力。

• 长视频理解与事件捕捉：Qwen2.5-VL能理解超过1小时的视频，并新增了通过精确定位相关视频片段捕捉事件的能力。

• 多种格式的视觉定位：Qwen2.5-VL能通过生成边界框或点准确在图像中定位对象，并能稳定输出坐标和属性的JSON格式。

• 结构化输出生成：对于发票、表格等数据扫描件，Qwen2.5-VL支持其内容的结构化输出，有利于金融、商业等领域的应用。

模型架构更新：

• 视频理解的动态分辨率与帧率训练：

我们通过采用动态FPS采样将动态分辨率扩展到时间维度，使模型能以不同采样率理解视频。相应地，我们在时间维度上更新了mRoPE，通过ID和绝对时间对齐，使模型能学习时间序列和速度，最终获得精确定位特定时刻的能力。

• 精简高效的视觉编码器

我们通过策略性地在ViT中实现窗口注意力，提升了训练和推理速度。ViT架构进一步通过SwiGLU和RMSNorm优化，与Qwen2.5 LLM的结构保持一致。

我们提供了30亿、70亿和720亿参数的三个模型。本仓库包含经过指令微调的720亿参数Qwen2.5-VL模型。更多信息，请访问我们的博客和GitHub。