基础模型:

• soob3123/amoral-gemma3-12B 语言:
• 英文 库名称: transformers 许可证: gemma 标签:
• transformers
• gemma3
• gemma
• 谷歌

gghfez/amoral-gemma3-12B-vision

soob3123/amoral-gemma3-12B 重新连接了视觉编码器版本

推理代码

from transformers import AutoProcessor, Gemma3ForConditionalGeneration
from PIL import Image
import requests
import torch

model_id = "gghfez/amoral-gemma3-12B-vision"
model = Gemma3ForConditionalGeneration.from_pretrained(
    model_id, device_map="auto"
).eval()

processor = AutoProcessor.from_pretrained(model_id)

messages = [
    {
        "role": "system",
        "content": [{"type": "text", "text": "你是一个乐于助人的助手。"}]
    },
    {
        "role": "user",
        "content": [
            {"type": "image", "image": "https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/bee.jpg"},
            {"type": "text", "text": "详细描述这张图片"}
        ]
    }
]

inputs = processor.apply_chat_template(
    messages, add_generation_prompt=True, tokenize=True,
    return_dict=True, return_tensors="pt"
).to(model.device, dtype=torch.bfloat16)

input_len = inputs["input_ids"].shape[-1]

with torch.inference_mode():
    generation = model.generate(**inputs, max_new_tokens=500, do_sample=False)
    generation = generation[0][input_len:]

decoded = processor.decode(generation, skip_special_tokens=True)
print(decoded)

输出结果

以下是该图片的详细描述：

整体印象： 这是一张花园场景的特写照片，聚焦于粉色的波斯菊和一只忙碌的熊蜂。构图均衡，以花朵和蜜蜂为主体，背景是绿色植物和其他植被。

花朵： 主要焦点是粉色的波斯菊。它们有着精致的、略带褶皱的花瓣，呈现粉色色调，中心是明亮的黄色。有些花朵盛开正艳，而有些则已过盛期，花瓣干枯或枯萎。花朵簇拥在一起，营造出繁茂的自然美感。

熊蜂： 一只熊蜂显著地停在一朵波斯菊上。它位于画面中央，正在积极采集花蜜或花粉。蜜蜂毛茸茸的身体呈黑黄相间，由于它的活动，翅膀略显模糊。

背景： 背景由绿色植物混合构成，包括大片的叶子和小型植物。背景中还有一些干枯或褪色的花朵，为图像增添了质感和深度。右下角可见几朵红色花朵，为画面增添了一抹亮色。

光线与色彩： 图像光线充足，自然光照射着整个场景。色彩鲜艳且饱和，尤其是波斯菊的粉色和熊蜂的黄色。整体效果温暖而充满生机。

我也用其他图片进行了测试，很喜欢这个结果！比google/gemma-3-12b-it详细得多。