🚀 SDXL LoRA DreamBooth - weasley24/dnd-SDXL-LoRA

本项目是基于Stable Diffusion XL的LoRA模型，可用于生成与龙与地下城（DND）相关的图像，为文本到图像的转换提供了强大的支持。

🚀 快速开始

模型描述

这些是针对 stabilityai/stable-diffusion-xl-base-1.0 的 weasley24/dnd-SDXL-LoRA LoRA适配权重。

下载模型

可以在诸如AUTOMATIC1111、Comfy UI、SD.Next、Invoke等用户界面中使用该模型。

• LoRA：点击 dnd-SDXL-LoRA.safetensors 此处下载 💾。
  • 将其放置在 models/Lora 文件夹中。
  • 在AUTOMATIC1111中，通过在提示词中添加 <lora:dnd-SDXL-LoRA:1> 来加载LoRA。在ComfyUI中，按照 常规LoRA加载方式 操作。
• 嵌入文件：点击 dnd-SDXL-LoRA_emb.safetensors 此处下载 💾。
  • 将其放置在 embeddings 文件夹中。
  • 在提示词中添加 dnd-SDXL-LoRA_emb 来使用它。例如，DND dnd-SDXL-LoRA_emb （由于该LoRA的LoRA文件和嵌入文件是一起训练的，因此需要同时使用这两个文件）

使用 🧨 diffusers 库

from diffusers import AutoPipelineForText2Image
import torch
from huggingface_hub import hf_hub_download
from safetensors.torch import load_file
        
pipeline = AutoPipelineForText2Image.from_pretrained('stabilityai/stable-diffusion-xl-base-1.0', torch_dtype=torch.float16).to('cuda')
pipeline.load_lora_weights('weasley24/dnd-SDXL-LoRA', weight_name='pytorch_lora_weights.safetensors')
embedding_path = hf_hub_download(repo_id='weasley24/dnd-SDXL-LoRA', filename='dnd-SDXL-LoRA_emb.safetensors', repo_type="model")
state_dict = load_file(embedding_path)
pipeline.load_textual_inversion(state_dict["clip_l"], token=["<s0>", "<s1>"], text_encoder=pipeline.text_encoder, tokenizer=pipeline.tokenizer)
pipeline.load_textual_inversion(state_dict["clip_g"], token=["<s0>", "<s1>"], text_encoder=pipeline.text_encoder_2, tokenizer=pipeline.tokenizer_2)
        
image = pipeline('DND <s0><s1> Elandorr riding Gilda, scene <s0><s1>').images[0]

有关更多详细信息，包括LoRA的加权、合并和融合，请查看 diffusers中加载LoRA的文档。

触发词

要触发已训练概念的图像生成，请在提示词中用新插入的标记替换每个概念标识符： 要触发概念 TOK → 在提示词中使用 <s0><s1>

🔧 技术细节

文件与版本

所有 文件和版本。

训练信息

• 权重使用 🧨 diffusers高级Dreambooth训练脚本 进行训练。
• 文本编码器的LoRA已启用：否。
• 关键调优已启用：是。
• 训练使用的特殊VAE：madebyollin/sdxl-vae-fp16-fix。

📄 许可证

本项目采用 openrail++ 许可证。