语言:

• 英文 标签:
• llava
• 多模态
• qwen 许可证: apache-2.0

nanoLLaVA - 超1B视觉语言模型

重要提示: nanoLLaVA-1.5 已经发布，性能大幅提升。请访问此处查看。

描述

nanoLLaVA是一款“小而强大”的1B视觉语言模型，专为在边缘设备上高效运行而设计。

• 基础LLM: Quyen-SE-v0.1 (Qwen1.5-0.5B)
• 视觉编码器: google/siglip-so400m-patch14-384

训练数据

训练数据将在稍后发布，因为我仍在撰写相关论文。预计最终版本将比当前版本更强大。

微调代码

即将发布！！！

使用方法

您可以使用transformers运行以下脚本：

pip install -U transformers accelerate flash_attn

import torch
import transformers
from transformers import AutoModelForCausalLM, AutoTokenizer
from PIL import Image
import warnings

# 禁用部分警告
transformers.logging.set_verbosity_error()
transformers.logging.disable_progress_bar()
warnings.filterwarnings('ignore')

# 设置设备
torch.set_default_device('cuda')  # 或 'cpu'

# 创建模型
model = AutoModelForCausalLM.from_pretrained(
    'qnguyen3/nanoLLaVA',
    torch_dtype=torch.float16,
    device_map='auto',
    trust_remote_code=True)
tokenizer = AutoTokenizer.from_pretrained(
    'qnguyen3/nanoLLaVA',
    trust_remote_code=True)

# 文本提示
prompt = '详细描述这张图片'

messages = [
    {"role": "user", "content": f'<image>\n{prompt}'}
]
text = tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True
)

print(text)

text_chunks = [tokenizer(chunk).input_ids for chunk in text.split('<image>')]
input_ids = torch.tensor(text_chunks[0] + [-200] + text_chunks[1], dtype=torch.long).unsqueeze(0)

# 图片，示例图片可在images文件夹中找到
image = Image.open('/path/to/image.png')
image_tensor = model.process_images([image], model.config).to(dtype=model.dtype)

# 生成
output_ids = model.generate(
    input_ids,
    images=image_tensor,
    max_new_tokens=2048,
    use_cache=True)[0]

print(tokenizer.decode(output_ids[input_ids.shape[1]:], skip_special_tokens=True).strip())

提示格式

模型遵循ChatML标准，但在<|im_end|>末尾没有\n：

<|im_start|>system
回答问题<|im_end|><|im_start|>user
<image>
这张图片是关于什么的？<|im_end|><|im_start|>assistant

图片	示例
	文字在说什么？ “小而强大”。 文字如何与图片内容相关联？ 文字似乎是对一个小而强大的形象（可能是老鼠或老鼠玩具）举重的幽默或俏皮表现。

模型使用了Bunny的修改版本进行训练。