许可证：Apache-2.0
支持语言：

• 英语

任务类型：图像文本生成
标签：

• 多模态

基础模型：

• Qwen/Qwen2.5-VL-7B-Instruct

Qwen2.5-VL-7B-Instruct

本模型通过HimariO的分支项目采用此流程转换并量化。未使用IMatrix技术。

当前必须使用该分支才能运行推理，且不保证这些检查点能兼容未来版本。临时构建版本可在此获取。截至撰写时最新测试版本为qwen25-vl-b4899-bc4163b。

更新：
自2025年4月1日起，koboldcpp已添加推理支持。

原始模型

使用方式

./llama-qwen2vl-cli -m Qwen2.5-VL-7B-Instruct-Q4_K_M.gguf --mmproj qwen2.5-vl-7b-instruct-vision-f16.gguf -p "请描述这张图片。" --image ./image.jpg