基础模型: unsloth/orpheus-3b-0.1-ft-unsloth-bnb-4bit
标签:

• 文本生成推理
• 变换器模型
• unsloth框架
• llama架构
• trl训练库
• 语音合成
• 文本转语音
• gguf格式
• llama-cpp-python接口
  许可证: apache-2.0
  库名称: transformers
  语言:
• 英语
  数据集:
• MrDragonFox/Elise

已上传模型

• 微调者: Prince-1
• 许可证: apache-2.0
• 基础模型: unsloth/orpheus-3b-0.1-ft-unsloth-bnb-4bit

该llama模型使用Unsloth和Huggingface的TRL库实现了2倍速训练。

Orpheus TTS是基于Llama架构的尖端语音大模型，专为高质量、富有同理心的文本转语音生成而设计。经过微调的模型可实现人类级语音合成，在清晰度、表现力和实时流式传输方面表现卓越。

模型详情

核心能力

• 拟真语音: 自然语调、情感和节奏超越当前闭源最优模型
• 零样本声音克隆: 无需预训练即可克隆音色
• 情感语调引导: 通过简单标签控制语音情感特征
• 低延迟: 实时应用场景下约200ms流式延迟，输入流式传输时可降至100ms

模型来源

• GitHub仓库: https://github.com/canopyai/Orpheus-TTS
• 技术博客: https://canopylabs.ai/model-releases
• Colab推理笔记本: 笔记本链接

量化方案

模型已转换为GGUF格式

可选量化方法:

• 未量化: 推荐。转换快但推理慢，文件体积大
• 快速量化: 推荐。转换快，推理速度与文件大小均衡
• 标准量化: 推荐。转换慢但推理快，文件小
• f32: 不推荐。保持100%精度但速度极慢且内存占用高
• f16: 最快转换+100%精度。仍存在速度与内存问题
• q8_0: 快速转换。高资源消耗但通常可接受
• q4_k_m: 推荐。对半数量attention.wv和feed_forward.w2张量使用Q6_K，其余用Q4_K
• q5_k_m: 推荐。同上结构但使用Q5_K
• q2_k: 对关键张量使用Q4_K，其余Q2_K
• q3_k系列: 分层次混合使用Q3_K/Q4_K/Q5_K
• q4_0: 原始4位量化
• q5系列: 更高精度但资源消耗更大
• q6_k: 全张量使用Q8_K

使用方式

通过llama-cpp-python模块调用，该模块提供llama-cpp的Python绑定:

from llama_cpp_python import LLM

使用限制

禁止未经同意的身份模拟、虚假信息传播（包括假新闻/诈骗呼叫）或任何违法有害行为。使用本模型即表示您承诺遵守所有适用法律和道德准则。开发者不承担滥用责任。