🚀 nunchaku-flux.1-dev-colossus 模型卡

本仓库包含 Colossus Project Flux 的 Nunchaku 量化版本，旨在根据文本提示生成高质量图像。该模型在优化推理效率的同时，将性能损失降至最低。

📚 详细文档

🔍 模型描述

📄 模型文件

• svdq-int4_r32-flux.1-dev-colossusv12.safetensors：SVDQuant 量化的 INT4 FLUX ColossusV12 模型，适用于非 Blackwell GPU（50 系列之前）的用户。
• svdq-fp4_r32-flux.1-dev-colossusv12.safetensors：SVDQuant 量化的 NVFP4 FLUX ColossusV12 模型，适用于 Blackwell GPU（50 系列）的用户。

🌐 模型来源

• 推理引擎：nunchaku
• 量化库：deepcompressor
• 论文：SVDQuant: Absorbing Outliers by Low-Rank Components for 4-Bit Diffusion Models
• 演示：svdquant.mit.edu

💻 使用示例

🛠️ Diffusers 使用方法

请参考 flux.1-dev-colossus.py，只需将其中的 safetensors 文件替换为本仓库中的文件。如需更高级的使用方法，请查看我们的 教程。

🎨 ComfyUI 使用方法

请参考 nunchaku-flux.1-dev.json，只需将其中的 safetensors 文件替换为本仓库中的文件。

📈 性能表现

📖 引用信息

@inproceedings{
  li2024svdquant,
  title={SVDQuant: Absorbing Outliers by Low-Rank Components for 4-Bit Diffusion Models},
  author={Li*, Muyang and Lin*, Yujun and Zhang*, Zhekai and Cai, Tianle and Li, Xiuyu and Guo, Junxian and Xie, Enze and Meng, Chenlin and Zhu, Jun-Yan and Han, Song},
  booktitle={The Thirteenth International Conference on Learning Representations},
  year={2025}
}

⚖️ 版权声明

FLUX.1 [dev] 模型由 Black Forest Labs Inc. 根据 FLUX.1 [dev] 非商业许可证授权。版权归 Black Forest Labs Inc. 所有。在任何情况下，Black Forest Labs Inc. 均不对因使用本模型而产生的任何索赔、损害或其他责任负责，无论是在合同、侵权或其他诉讼中。

📄 许可证

本模型使用 flux-1-dev-non-commercial-license 许可证。