🚀 Llama-3.2-Latin模型卡片

针对拉丁语处理优化的微调模型

📖 详细文档 • 🚀 快速开始 • 💻 使用示例

📚 详细文档

模型基本信息

模型概述

hathibelagal/llama-3.2-latin 是 LLaMA-3.2-3B 模型的微调版本，针对生成和理解不同历史时期（从古代到现代新拉丁语）的拉丁语文本进行了优化。目前，它能够准确运用时态（如过去完成时、虚拟语气）、格和复杂结构（如让步从句、时间从句）来生成内容。

预期用途

🚀 适用场景：

• 适用于涉及拉丁语文本生成、翻译或分析的任务，例如生成古典拉丁语散文、完成句子或辅助拉丁语教育。由于连贯性限制，最适合短的、特定上下文的提示。
• 在连贯性得到改善之前，不建议用于长篇叙事生成或需要严格上下文一致性的任务。

伦理考量

⚠️ 重要提示

• 偏差问题：模型可能反映训练数据集中的偏差，例如某些拉丁语风格（如教会拉丁语）的过度代表性可能导致输出的语气发生变化。
• 使用建议：生成的文本应进行准确性审查，尤其是在教育或学术背景下。

🚀 快速开始

1. 确保你已经安装了 transformers 库。
2. 按照下面的使用示例代码进行操作。

💻 使用示例

基础用法

from transformers import AutoTokenizer, AutoModelForCausalLM
import torch

repo_id = "hathibelagal/llama-3.2-latin"

tokenizer = AutoTokenizer.from_pretrained(repo_id)
model = AutoModelForCausalLM.from_pretrained(
    repo_id,
    torch_dtype=torch.float16,
    device_map="auto"
)

prompt = "Libellus vere aureus"
inputs = tokenizer.encode(prompt, return_tensors="pt")
inputs = inputs.to(model.device)

outputs = model.generate(
    inputs,
    max_new_tokens=100,
    do_sample=True,
    top_p=0.9,
    temperature=0.6,
    repetition_penalty=1.2
)

print(tokenizer.batch_decode(
    outputs, skip_special_tokens=True)[0])