license: cc-by-nc-4.0

斯坦福Alpaca-7B模型

本代码库托管了斯坦福Alpaca-7B的权重差异文件，该文件可应用于Meta公司的LLaMA模型权重以重建原始模型权重。

要恢复原始Alpaca-7B权重，请按以下步骤操作：

1. 将Meta发布的权重转换为huggingface格式。参考指南：
    https://huggingface.co/docs/transformers/main/model_doc/llama
2. 确保已将发布的权重差异文件克隆至本地。权重差异文件位于：
    https://huggingface.co/tatsu-lab/alpaca-7b/tree/main
3. 使用正确的路径运行此函数。例如：
    python weight_diff.py recover --path_raw <步骤1目录路径> --path_diff <步骤2目录路径> --path_tuned <恢复权重存储路径>

完成第三步后，您将获得包含恢复权重的目录，可通过以下方式加载模型：

import transformers
alpaca_model = transformers.AutoModelForCausalLM.from_pretrained("<恢复权重存储路径>")
alpaca_tokenizer = transformers.AutoTokenizer.from_pretrained("<恢复权重存储路径>")