语言支持:

• 英语
• 德语
• 法语
• 波斯语
• 阿拉伯语
• 土耳其语
• 西班牙语
• 意大利语
• 中文
• 韩语
• 日语
• 印地语 评估指标:
• 准确率 任务类型: 文档问答 标签:
• 文本生成推理

多模态多语言模型 (3ML)

本模型为glm-4v-9b的4位量化版本（小于9G内存占用）。

在文档、图像、图表问答任务中表现卓越，性能超越GPT-4-turbo-2024-04-09、Gemini 1.0 Pro、Qwen-VL-Max和Claude 3 Opus等模型。

对原模型进行了部分修改，可在Google Colab免费版运行。

立即体验:

![GitHub源码]

注意：为获得文档和图像理解的最佳性能，请使用英文或中文。模型仍支持所有列出的语言进行对话。

GLM-4V-9B模型简介

GLM-4V-9B是具备视觉理解能力的多模态语言模型。其在经典任务中的评估结果如下：

本仓库为GLM-4V-9B模型的4位量化版本，支持8K上下文长度。

快速开始

使用Colab模型或以下Python脚本：

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer
from PIL import Image

device = "cuda"

modelPath="nikravan/glm-4vq"
tokenizer = AutoTokenizer.from_pretrained(modelPath, trust_remote_code=True)

model = AutoModelForCausalLM.from_pretrained(
    modelPath,
    torch_dtype=torch.bfloat16,
    low_cpu_mem_usage=True,
    trust_remote_code=True,
    device_map="auto"
)