许可证: mit
语言:

• 英文
  库名称: transformers
  推理支持: 否
  任务标签: 图像文本生成

分片版BLIP-2模型卡片 - flan-t5-xl

此为blip2-flan-t5-xl的分片版本，采用Flan T5-xl实现图像到文本任务，如图像描述和视觉问答。

• 此模型库经过分片处理，可轻松在低内存Colab环境中加载 :)
• 关于模型描述、预期用途、限制条件及不同精度下CPU/GPU使用说明，请参阅原模型卡片。

使用方法

详见原模型卡片或此博客文章。以下为CPU端使用示例：

安装

需安装transformers当前main分支（截至撰写时）：

pip install accelerate git+https://github.com/huggingface/transformers.git -U -q  

使用（此示例适用于CPU，fp16和int8用法请参考原模型卡片/博客）

import requests  
from PIL import Image  
from transformers import BlipProcessor, Blip2ForConditionalGeneration  

model_name = "ethzanalytics/blip2-flan-t5-xl-sharded"  
processor = BlipProcessor.from_pretrained(model_name)  
model = Blip2ForConditionalGeneration.from_pretrained(model_name)  

img_url = 'https://storage.googleapis.com/sfr-vision-language-research/BLIP/demo.jpg'   
raw_image = Image.open(requests.get(img_url, stream=True).raw).convert('RGB')  

question = "图片中有多少只狗？"  
inputs = processor(raw_image, question, return_tensors="pt")  

out = model.generate(**inputs)  
print(processor.decode(out[0], skip_special_tokens=True))