许可证：其他
许可证名称：flux-1-dev-non-commercial-license
许可证链接：https://huggingface.co/black-forest-labs/FLUX.1-dev/resolve/main/LICENSE.md
基础模型：

• black-forest-labs/FLUX.1-dev
  任务标签：文本生成图像
  库名称：diffusers
  标签：
• flux
• 文本生成图像

!!! 实验性支持仅限 gpustack/llama-box v0.0.84+ !!!

模型创建者: Freepik

原始模型: flux.1-lite-8B-alpha

GGUF量化: 基于stable-diffusion.cpp ac54e 并由llama-box补丁实现。

Flux.1 Lite

我们激动地宣布Flux.1 Lite的alpha版本发布，这是一个从FLUX.1-dev模型蒸馏出的80亿参数Transformer模型。此版本在保持与原模型相同精度（bfloat16）的同时，减少了7GB内存占用，并提速23%。

文本生成图像

Flux.1 Lite已准备好释放您的创造力！为获得最佳效果，我们强烈推荐使用guidance_scale为3.5，并将n_steps设置在22至30之间。

import torch  
from diffusers import FluxPipeline  

base_model_id = "Freepik/flux.1-lite-8B-alpha"  
torch_dtype = torch.bfloat16  
device = "cuda"  

# 加载管道  
model_id = "Freepik/flux.1-lite-8B-alpha"  
pipe = FluxPipeline.from_pretrained(  
    model_id, torch_dtype=torch_dtype  
).to(device)  

# 推理  
prompt = "近距离拍摄的绿色外星人，荧光皮肤，置身于深紫色森林中央"  

guidance_scale = 3.5  # 保持guidance_scale为3.5  
n_steps = 28  
seed = 11  

with torch.inference_mode():  
    image = pipe(  
        prompt=prompt,  
        generator=torch.Generator(device="cpu").manual_seed(seed),  
        num_inference_steps=n_steps,  
        guidance_scale=guidance_scale,  
        height=1024,  
        width=1024,  
    ).images[0]  
image.save("output.png")  

动机

受Ostris研究的启发，我们通过分析每个模块输入输出的均方误差（MSE）来量化其对最终结果的贡献，发现存在显著差异。

正如Ostris指出的，并非所有模块贡献均等。跳过早期MMDiT或晚期DiT中的单个模块会显著影响模型性能，而跳过中间任何单一模块对最终图像质量影响不大。

未来工作

敬请期待！我们的目标是进一步蒸馏FLUX.1-dev，使其能在24GB消费级GPU上流畅运行，保持原始精度（bfloat16），并进一步提升速度，让高质量AI模型触手可及。

ComfyUI

我们还设计了ComfyUI工作流，让Flux.1 Lite使用更便捷！详见comfy/flux.1-lite_workflow.json。

safetensors检查点可在此获取：flux.1-lite-8B-alpha.safetensors

HF空间🤗

您也可通过TheAwakenOne提供的Flux.1 Lite HF空间测试模型。

在Freepik体验！

我们的AI生成器现已搭载Flux.1 Lite！

🔥 动态 🔥

• 2024年10月28日。Flux.1 Lite 8B Alpha HF空间上线，感谢TheAwakenOne提供HF空间。
• 2024年10月23日。Alpha 8B检查点公开于HuggingFace仓库。

引用

若您认为我们的工作有帮助，请引用！

@article{flux1-lite,  
  title={Flux.1 Lite：蒸馏Flux1.dev实现高效文本生成图像},  
  author={Daniel Verdú, Javier Martín},  
  email={dverdu@freepik.com, javier.martin@freepik.com},  
  year={2024},  
}  

版权声明

FLUX.1 [dev]模型由Black Forest Labs. Inc.根据FLUX.1 [dev]非商业许可证授权。版权所有Black Forest Labs. Inc.。

我们的模型权重根据FLUX.1 [dev]非商业许可证发布。