文本编码器未参与训练。
推理时可复用基础模型的文本编码器。

训练设置

• 训练周期: 1

• 训练步数: 500

• 学习率: 0.0001

  • 学习率计划: 带热身的恒定学习率
  • 热身步数: 500

• 最大梯度值: 0.1

• 有效批次大小: 32

  • 微批次大小: 4
  • 梯度累积步数: 1
  • GPU数量: 8

• 梯度检查点: 启用

• 预测类型: 流匹配（额外参数=['flow_schedule_auto_shift', 'shift=0.0']）

• 优化器: adamw_bf16

• 可训练参数精度: 纯BF16

• 基础模型精度: 保持不变

• 标题丢弃概率: 10.0%

• LoRA秩: 16

• LoRA Alpha: 无

• LoRA丢弃率: 0.1

• LoRA初始化风格: 默认

数据集

photo10k

• 重复次数: 0
• 总图像数: ~10040
• 总宽高比分桶数: 2
• 分辨率: 1.048576百万像素
• 是否裁剪: 否
• 裁剪风格: 无
• 裁剪宽高比: 无
• 是否用于正则化数据: 否

推理

import torch  
from diffusers import DiffusionPipeline  

model_id = 'stabilityai/stable-diffusion-3.5-medium'  
adapter_id = 'bghira/sd35m-reflow'  
pipeline = DiffusionPipeline.from_pretrained(model_id, torch_dtype=torch.bfloat16) # 直接加载为bf16格式  
pipeline.load_lora_weights(adapter_id)  

prompt = "一张逼真的猫照片"  
negative_prompt = '模糊, 裁剪, 丑陋'  

## 可选：量化模型以节省显存  
## 注意：训练时未量化模型，推理时无需强制量化  
#from optimum.quanto import quantize, freeze, qint8  
#quantize(pipeline.transformer, weights=qint8)  
#freeze(pipeline.transformer)  

pipeline.to('cuda' if torch.cuda.is_available() else 'mps' if torch.backends.mps.is_available() else 'cpu') # 管道已处于目标精度级别  
model_output = pipeline(  
    prompt=prompt,  
    negative_prompt=negative_prompt,  
    num_inference_steps=8,  
    generator=torch.Generator(device='cuda' if torch.cuda.is_available() else 'mps' if torch.backends.mps.is_available() else 'cpu').manual_seed(42),  
    width=1024,  
    height=1024,  
    guidance_scale=1.0,  
    skip_guidance_layers=[],  
).images[0]  

model_output.save("output.png", format="PNG")