许可证: mit 数据集:

• cmu_hinglish_dog 语言:
• en 库名称: transformers 管道标签: translation 标签:
• 印地英语
• 翻译
• 印地英语转英语
• 语言翻译
• keras
• keras自然语言处理
• 自然语言处理
• transformers
• gemma2b

印地英语项目 - 印地英语到英语的翻译器

印地英语项目旨在开发一个高性能的语言翻译模型，能够将印地英语（印度非正式交流中常用的印地语和英语混合语言）翻译为标准英语。该模型基于gemma-2b，使用PEFT（LoRA）方法进行微调，秩为128。该模型的目标是处理印地英语独特的句法和词汇特征。

微调方法:

• 使用PEFT（LoRA）进行微调: 微调采用参数高效微调（PEFT）技术，特别是使用低秩适应（LoRA）。LoRA通过引入低秩矩阵来高效地修改预训练模型，这些矩阵调整模型的注意力和前馈层。这种方法允许对模型进行显著调整，同时对参数的更新最小，保留了原始模型的优势，同时有效地适应印地英语的细微差别。
• 数据集: cmu_hinglish_dog + 结合我个人日常与朋友的聊天记录和优步消息中的句子。

示例输出

使用方法

from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("rudrashah/RLM-hinglish-translator")
model = AutoModelForCausalLM.from_pretrained("rudrashah/RLM-hinglish-translator")

template = "Hinglish:\n{hi_en}\n\nEnglish:\n{en}" # 这一点非常重要，没有它会产生随机输出
input_text = tokenizer(template.format(hi_en="aapka name kya hai?",en=""),return_tensors="pt")

output = model.generate(**input_text)
print(tokenizer.decode(output[0]))

Kaggle上的使用代码笔记本