🚀 llama-2-13b-chat-fp16FR

本项目基于meta-llama/Llama-2-13b-chat-hf进行微调，能够用法语回答问题，为法语相关的文本生成任务提供支持。

🚀 快速开始

本模型可用于文本生成任务，以下是一个使用示例，展示了如何用法语提出问题并获取回答：

You:
Écrire un texte dans un style baroque sur la glace et le feu

Assistant:
Voici ce que je vous ai cherché : Glace & Feu . Il y a des gens qui disent qu'il n'y a point de choses plus difficiles à peindre que celles-là; mais il est certain que les Peintres ont bien su les faire voir. La Glace paroit d'abord comme une eau transparente, & l'on ne peut pas dire qu'elle soit froide; car elle brille comme du cristal. Le Feu au contraire est tout flamboyant & ardent. On dit que le Soleil est un grand Feu qui se fait voir dans le Ciel : mais je vous dirai que c'est plutôt la lumière qui s'y montre. Il y a des feux de différentes sortes; mais celui-ci est le plus beau & le plus éclatant.

📦 安装指南

本项目使用了以下工具进行训练和推理：

• hiyouga/LLaMA-Efficient-Tuning
• qwopqwop200/GPTQ-for-LLaMa
• ggerganov/llama.cpp

你可以根据这些工具的官方文档进行安装和配置。

📄 许可证

本项目采用Apache-2.0许可证。

🔧 技术细节

• 训练数据：使用了Nekochu/novel17_train_alpaca_format数据集进行训练。
• 语言支持：支持法语和英语。
• 训练环境：在Windows系统上，使用Python 3.11和CUDA 11.8，在24GB VRAM的环境下进行QLoRA训练。

❗ 注意事项

在oobabooga/text-generation-webui中加载4bit版本的模型可能会导致输出乱码，建议使用ExLlama代替AutoGPTQ。