基础模型: VijayRam1812/Mistral-7B-Business
数据集:

• theoldmandthesea/17k_business_book
  库名称: peft
  许可证: apache-2.0
  标签:
• trl
• sft
• generated_from_trainer
• llama-cpp
• gguf-my-lora
  语言:
• en
  管道标签: question-answering
  模型索引:
• 名称: business_mistral-v1.0
  结果: []

rafaelldietrich/Mistral-7B-Business-F16-GGUF

此LoRA适配器通过ggml.ai的GGUF-my-lora空间从VijayRam1812/Mistral-7B-Business转换为GGUF格式。
更多详情请参考原始适配器仓库。

与llama.cpp一起使用

# 使用命令行  
llama-cli -m base_model.gguf --lora Mistral-7B-Business-f16.gguf (...其他参数)  

# 使用服务器  
llama-server -m base_model.gguf --lora Mistral-7B-Business-f16.gguf (...其他参数)  

要了解更多关于在llama.cpp服务器中使用LoRA的信息，请参阅llama.cpp服务器文档。