许可协议：creativeml-openrail-m
标签：

• 文本生成图像
• 稳定扩散模型
• LoRA微调
• Diffusers库

基础模型：stabilityai/stable-diffusion-xl-base-1.0
关键调优：启用
文本嵌入：embeddings.pti
实例提示词：一个表情符号
推理支持：未启用

fofr开发的sdxl-emoji LoRA模型

基于苹果表情符号的SDXL微调模型

通过Replicate API进行推理

点击获取Replicate凭证

pip install replicate
export REPLICATE_API_TOKEN=r8_*************************************

import replicate

output = replicate.run(
    "sdxl-emoji@sha256:dee76b5afde21b0f01ed7925f0665b7e879c50ee718c5f78a9d38e04d523cc5e",
    input={"prompt": "一个TOK表情符号：男性形象"}
)
print(output)

您也可以通过Node.js或curl使用API推理，或使用COG和Docker本地运行，查看该模型的Replicate API页面

使用🧨 diffusers库推理

Replicate的SDXL LoRA模型采用关键调优技术，结合了Dreambooth LoRA训练和文本反转新标记训练。
由于diffusers暂不支持SDXL的文本反转，我们将使用cog-sdxl的TokenEmbeddingsHandler类。

提示词触发标记为：<s0><s1>

pip install diffusers transformers accelerate safetensors huggingface_hub
git clone https://github.com/replicate/cog-sdxl cog_sdxl

import torch
from huggingface_hub import hf_hub_download
from diffusers import DiffusionPipeline
from cog_sdxl.dataset_and_utils import TokenEmbeddingsHandler
from diffusers.models import AutoencoderKL

pipe = DiffusionPipeline.from_pretrained(
        "stabilityai/stable-diffusion-xl-base-1.0",
        torch_dtype=torch.float16,
        variant="fp16",
).to("cuda")

pipe.load_lora_weights("fofr/sdxl-emoji", weight_name="lora.safetensors")

text_encoders = [pipe.text_encoder, pipe.text_encoder_2]
tokenizers = [pipe.tokenizer, pipe.tokenizer_2]

embedding_path = hf_hub_download(repo_id="fofr/sdxl-emoji", filename="embeddings.pti", repo_type="model")
embhandler = TokenEmbeddingsHandler(text_encoders, tokenizers)
embhandler.load_embeddings(embedding_path)
prompt="一个<s0><s1>表情符号：男性形象"
images = pipe(
    prompt,
    cross_attention_kwargs={"scale": 0.8},
).images
# 输出生成图像
images[0]