许可证: cc-by-nc-4.0
支持语言:

• 中文
• 英语
• 德语
• 法语
• 日语
• 韩语
• 荷兰语
• 西班牙语
• 意大利语
• 葡萄牙语
• 波兰语
  基础模型: HKUSTAudio/Llasa-1B-Multilingual
  标签:
• 文本转语音
• mlx
• mlx-my-repo
  管道标签: text-to-speech

nhe-ai/Llasa-1B-Multilingual-mlx-8Bit

模型 nhe-ai/Llasa-1B-Multilingual-mlx-8Bit 是从 HKUSTAudio/Llasa-1B-Multilingual 使用 mlx-lm 版本 0.22.3 转换而来的 MLX 格式。

⚠️ 重要提示：此模型为实验性自动转换。以下指南并非专为此模型设计，可能无法达到预期效果。请勿期待开箱即用，仅供自行实验探索。

使用 MLX 运行

pip install mlx-lm  

from mlx_lm import load, generate  

model, tokenizer = load("nhe-ai/Llasa-1B-Multilingual-mlx-8Bit")  

prompt="你好"  

if hasattr(tokenizer, "apply_chat_template") and tokenizer.chat_template is not None:  
    messages = [{"role": "用户", "content": prompt}]  
    prompt = tokenizer.apply_chat_template(  
        messages, tokenize=False, add_generation_prompt=True  
    )  

response = generate(model, tokenizer, prompt=prompt, verbose=True)