许可证: llama2
语言:

• 意大利语
  标签:
• 文本生成推理

LLaMAntino-2-7b-ITA模型卡

最后更新: 2024年1月22日

模型描述

LLaMAntino-2-7b是一款基于LLaMA 2进行意大利语适配的大语言模型(LLM)。
该模型旨在为意大利语自然语言处理研究者提供文本生成任务的基础模型。

模型采用QLora技术训练，训练数据来自clean_mc4_it medium数据集。
如需了解训练过程详情，可通过以下链接获取我们使用的代码：

• 代码仓库: https://github.com/swapUniba/LLaMAntino

注意：代码尚未发布，我们对此深表歉意，将尽快提供！

• 开发团队: Pierpaolo Basile, Elio Musacchio, Marco Polignano, Lucia Siciliani, Giuseppe Fiameni, Giovanni Semeraro
• 资助方: PNRR项目FAIR - Future AI Research
• 计算基础设施: Leonardo超级计算机
• 模型类型: LLaMA 2
• 支持语言(NLP): 意大利语
• 许可证: Llama 2社区许可证
• 微调基模型: meta-llama/Llama-2-7b-hf

快速开始

以下是模型使用示例：

from transformers import AutoModelForCausalLM, AutoTokenizer  

model_id = "swap-uniba/LLaMAntino-2-7b-hf-ITA"  

tokenizer = AutoTokenizer.from_pretrained(model_id)  
model = AutoModelForCausalLM.from_pretrained(model_id)  

prompt = "在此输入您的提示文本"  

input_ids = tokenizer(prompt, return_tensors="pt").input_ids  
outputs = model.generate(input_ids=input_ids)  

print(tokenizer.batch_decode(outputs.detach().cpu().numpy()[:, input_ids.shape[1]:], skip_special_tokens=True)[0])  

若加载模型遇到问题，可尝试量化加载：

model = AutoModelForCausalLM.from_pretrained(model_id, load_in_8bit=True)  

注：上述加载方式需要安装bitsandbytes和accelerate库

引用

若在研究中使用了本模型，请引用以下文献：

@misc{basile2023llamantino,  
      title={LLaMAntino: LLaMA 2 Models for Effective Text Generation in Italian Language},   
      author={Pierpaolo Basile and Elio Musacchio and Marco Polignano and Lucia Siciliani and Giuseppe Fiameni and Giovanni Semeraro},  
      year={2023},  
      eprint={2312.09993},  
      archivePrefix={arXiv},  
      primaryClass={cs.CL}  
}  

声明：Llama 2采用LLAMA 2社区许可证授权，版权所有© Meta Platforms, Inc. 许可证