许可协议：creativeml-openrail-m
标签：

• 文生图
• 稳定扩散
• LoRA
• 扩散模型
  基础模型：stabilityai/stable-diffusion-xl-base-1.0
  关键调优：启用
  文本嵌入：embeddings.pti
  实例提示词：
  推理支持：是

fofr 开发的SDXL表情符号LoRA

基于苹果表情符号的SDXL微调模型

通过Replicate API进行推理

点击获取Replicate令牌

pip install replicate  
export REPLICATE_API_TOKEN=r8_*************************************  

import replicate  

output = replicate.run(  
    "sdxl-emoji@sha256:dee76b5afde21b0f01ed7925f0665b7e879c50ee718c5f78a9d38e04d523cc5e",  
    input={"prompt": "一个TOK风格的男人表情符号"}  
)  
print(output)  

也可通过Node.js或curl调用API，或使用COG与Docker本地运行，查看模型的Replicate API页面

使用🧨diffusers进行推理

Replicate的SDXL LoRA采用关键调优技术，结合了Dreambooth LoRA概念训练与Textual Inversion新标记训练。
由于diffusers暂不支持SDXL的Textual Inversion，我们将使用cog-sdxl的TokenEmbeddingsHandler类。

提示词触发标记为<s0><s1>

pip install diffusers transformers accelerate safetensors huggingface_hub  
git clone https://github.com/replicate/cog-sdxl cog_sdxl  

import torch  
from huggingface_hub import hf_hub_download  
from diffusers import DiffusionPipeline  
from cog_sdxl.dataset_and_utils import TokenEmbeddingsHandler  
from diffusers.models import AutoencoderKL  

pipe = DiffusionPipeline.from_pretrained(  
        "stabilityai/stable-diffusion-xl-base-1.0",  
        torch_dtype=torch.float16,  
        variant="fp16",  
).to("cuda")  

pipe.load_lora_weights("SvenN/sdxl-emoji", weight_name="lora.safetensors")  

text_encoders = [pipe.text_encoder, pipe.text_encoder_2]  
tokenizers = [pipe.tokenizer, pipe.tokenizer_2]  

embedding_path = hf_hub_download(repo_id="SvenN/sdxl-emoji", filename="embeddings.pti", repo_type="model")  
embhandler = TokenEmbeddingsHandler(text_encoders, tokenizers)  
embhandler.load_embeddings(embedding_path)  
prompt="一个<s0><s1>风格的男人表情符号"  
images = pipe(  
    prompt,  
    cross_attention_kwargs={"scale": 0.8},  
).images  
# 生成的输出图像  
images[0]