语言:

• 英语
• 印地语 任务标签: 翻译

模型详情

本模型融合了基于llama2-7b和OPENHATHI-7B-BASE的英语-印度英语翻译数据集训练的LoRA模块。由于openHathi在预训练阶段包含更多印地语数据，其翻译质量显著优于llama2。

提示模板

可使用nateraw提供的提示模板： "将英语翻译为印度英语：\n{{en}}\n---\n翻译：\n"

示例代码：

from transformers import LlamaForCausalLM, AutoTokenizer
import torch

device = "cuda:0"
tokenizer = AutoTokenizer.from_pretrained('akashgoel-id/OpenHathi-7B-English-to-Hinglish')
model = LlamaForCausalLM.from_pretrained('akashgoel-id/OpenHathi-7B-English-to-Hinglish', torch_dtype=torch.bfloat16).to(device)

PROMPT_TEMPLATE = (
    f"将英语翻译为印度英语：\n{{en}}\n---\n翻译：\n"
)
while True:
    userInput = input("请输入：")
    prompt = PROMPT_TEMPLATE.format(en=userInput)
    inputs = tokenizer(prompt, return_tensors="pt").to(device)
    generate_ids = model.generate(inputs.input_ids, max_length=500)
    print(tokenizer.batch_decode(generate_ids, skip_special_tokens=True, clean_up_tokenization_spaces=False)[0])

局限性

该模型在处理习语时表现欠佳：

1. 输入：When it rains, it pours
   输出：Jab baarish hoti hai, to baarish hoti hai
   评估：直译丢失了"祸不单行"的习语含义

2. 输入：Don't count your chickens before they hatch
   输出：Apne murgon ko ande se pahle na ginein
   评估：较好保留了"不要过早乐观"的隐喻意义

3. 输入：Biting off more than you can chew
   输出：Aap jo chaba sakte hain usse adhik kaatna
   评估：字面翻译未能完全传达"不自量力"的引申义

4. 输入：The ball is in your court
   输出：Gend aapke court mein hai
   评估：准确表达了"该你做决定"的核心含义

5. 输入：Beating around the bush
   输出：Bush ke chaaron or peetna
   评估：字面翻译"围着灌木丛打"未能体现"拐弯抹角"的真实含义

后续计划

1. 当前模型受llama2审查机制影响较大，下一步将通过更多无审查数据微调来降低限制（参考WizardLM对llama2的改进方案）
2. 针对习语翻译进行专项优化