语言:

• 意大利语
• 西班牙语 标签:
• 文本转语音
• TTS
• 音频
• 语音合成
• orpheus
• gguf 许可证: apache-2.0 数据集:
• 内部数据

Orpheus-3b-FT-Q8_0

这是canopylabs/3b-es_it-ft-research_release的量化版本。

Orpheus是一款高性能文本转语音模型，专为自然情感语音合成而微调。本仓库托管了30亿参数模型的8位量化版本，在保持高质量输出的同时优化了效率。

模型描述

Orpheus-3b-FT-Q8_0是一个30亿参数的文本转语音模型，可将文本输入转换为自然语音，支持多种音色和情感表达。该模型已量化为8位(Q8_0)格式以实现高效推理，使其可在消费级硬件上运行。

核心特性：

• 6种特色鲜明的可选音色
• 支持笑声、叹息等情感标签
• 针对RTX显卡的CUDA加速优化
• 生成24kHz单声道高品质音频
• 专为对话自然度微调

使用方法

本模型需配合连接Orpheus-FastAPI前端的LLM推理服务器使用，该前端提供Web界面和OpenAI兼容API端点。

兼容推理服务器

可加载此量化模型的推理服务器：

• GPUStack - GPU优化推理服务器（推荐选择）- 支持局域网/广域网张量并行
• LM Studio - 加载GGUF模型并启动本地服务器
• llama.cpp server - 使用适当模型参数运行
• 任何兼容OpenAI API的服务器

快速开始

1. 从lex-au的Orpheus-FASTAPI集合下载量化模型

2. 在首选推理服务器中加载模型并启动服务

3. 克隆Orpheus-FastAPI仓库：

git clone https://github.com/Lex-au/Orpheus-FastAPI.git
cd Orpheus-FastAPI

4. 通过设置ORPHEUS_API_URL环境变量配置FastAPI服务器连接推理服务

5. 按照仓库README完成安装设置

可用音色

支持6种音色：

• Javi: 西班牙语男声，温暖音色
• Sergio: 西班牙语男声，专业音色
• Maria: 西班牙语女声，友好音色
• Pietro: 意大利语男声，热情音色
• Giulia: 意大利语女声，富有表现力
• Carlo: 意大利语男声，优雅音色

情感标签

可通过插入标签增强表现力：

• <laugh>, <chuckle>: 添加笑声
• <sigh>: 叹息声效
• <cough>, <sniffle>: 细微间断音效
• <groan>, <yawn>, <gasp>: 附加情感表达

技术规格

• 架构: 专用token到音频序列模型
• 参数: 约30亿
• 量化: 8位(GGUF Q8_0格式)
• 音频采样率: 24kHz
• 输入: 文本（可选音色和情感标签）
• 输出: 高品质WAV音频
• 语言: 意大利语、西班牙语
• 硬件需求: 兼容CUDA的GPU（推荐RTX系列）
• 集成方式: 外部LLM推理服务器+Orpheus-FastAPI前端

局限性

• 需CUDA兼容GPU获得最佳性能
• 生成速度取决于GPU算力

许可

本模型采用Apache 2.0许可证。

引用说明

原始Orpheus模型由Canopy Labs开发。本仓库包含为Orpheus-FastAPI服务器优化的量化版本。

若在研究或应用中使用此量化模型，请引用：

@misc{orpheus-tts-2025,
  author = {Canopy Labs},
  title = {Orpheus-3b-0.1-ft: 文本转语音模型},
  year = {2025},
  publisher = {HuggingFace},
  howpublished = {\url{https://huggingface.co/canopylabs/orpheus-3b-0.1-ft}}
}

@misc{orpheus-quantised-2025,
  author = {Lex-au},
  title = {Orpheus-3b-FT-Q8_0: 带FastAPI服务的量化TTS模型},
  note = {canopylabs/orpheus-3b-0.1-ft的GGUF量化版本},
  year = {2025},
  publisher = {HuggingFace},
  howpublished = {\url{https://huggingface.co/lex-au/Orpheus-3b-FT-Q8_0.gguf}}
}