开源许可: MIT
支持语言:

• 英语
  任务类型: 图像转文本

git_20模型

本模型基于微软GIT框架，使用1块NVIDIA A100-80G显卡进行微调训练。我们从300万份学生作业中提取了10万份包含教师反馈的作业作为训练数据，训练数据分为学生作业的图像部分和教师反馈的文本部分。git_20模型包含18个网络层和超过1.7亿参数，磁盘占用空间最高达0.7GB。该项目旨在通过多模态多任务深度学习模型，构建能为学生数学推理提供自动诊断反馈的机器学习管道。研究人员可通过实验和微调该模型，帮助构建能有效为学生数学推理提供自动诊断反馈的多模态系统。

HuggingFace平台调用示例

from transformers import AutoModelForCausalLM
from transformers import AutoProcessor
from PIL import Image
model = AutoModelForCausalLM.from_pretrained("Fan21/git_20")
processor = AutoProcessor.from_pretrained("Fan21/git_20")

image_path ='请在此输入图片路径'
image = Image.open(image_path)
width, height = image.size
display(image.resize((int(1 * width), int(1 * height))))
pixel_values = processor(images=image, return_tensors="pt").pixel_values
with torch.no_grad():
    outputs = model.generate(pixel_values=pixel_values, max_length=50)

answer = tokenizer.decode(outputs[0], skip_special_tokens=True)