语言:

• 俄语 标签:
• 拼写检查
• M2M100
• pytorch
• 自然语言生成 许可证: mit 数据集:
• ai-forever/spellcheck_benchmark 评估指标:
• 精确率
• 召回率
• F1值 库名称: transformers 模型索引:
• 名称: sage-mt5-large 结果:
  • 任务: 类型: 文本生成 数据集: 类型: spellcheck_benchmark 名称: RUSpellRU 指标:
    • 名称: 精确率 类型: precision 值: 88.8 已验证: false
    • 名称: 召回率 类型: recall 值: 71.5 已验证: false
    • 名称: F1值 类型: f1 值: 79.2 已验证: false
  • 任务: 类型: 文本生成 数据集: 类型: spellcheck_benchmark 名称: MultidomainGold 指标:
    • 名称: 精确率 类型: precision 值: 63.8 已验证: false
    • 名称: 召回率 类型: recall 值: 61.1 已验证: false
    • 名称: F1值 类型: f1 值: 62.4 已验证: false
  • 任务: 类型: 文本生成 数据集: 类型: spellcheck_benchmark 名称: MedSpellchecker 指标:
    • 名称: 精确率 类型: precision 值: 78.8 已验证: false
    • 名称: 召回率 类型: recall 值: 71.4 已验证: false
    • 名称: F1值 类型: f1 值: 74.9 已验证: false
  • 任务: 类型: 文本生成 数据集: 类型: spellcheck_benchmark 名称: GitHubTypoCorpusRu 指标:
    • 名称: 精确率 类型: precision 值: 47.1 已验证: false
    • 名称: 召回率 类型: recall 值: 42.9 已验证: false
    • 名称: F1值 类型: f1 值: 44.9 已验证: false

sage-m2m100-1.2B 模型

概述

该模型通过将文本中的所有单词规范为俄语标准来纠正拼写错误和打字错误。
纠错器基于 M2M100-1.2B 模型训练而成。
训练语料库采用了包含“人工”错误的广泛数据集：该数据集基于俄语维基百科和俄语视频转录构建，然后使用 SAGE 库自动引入打字错误和拼写错误。
该模型是 预训练模型 的微调版本。

公开参考

• SAGE库公告，DataFest 2023
• 关于合成错误生成方法的论文，Dialogue 2023
• SAGE EACL 2024论文

示例

评估指标

质量

以下是用于确定拼写检查器正确性的自动评估指标。
我们将我们的解决方案与开源自动拼写检查器以及ChatGPT系列模型在所有四个可用数据集上进行比较：

• RUSpellRU：从LiveJournal收集的文本，带有手动纠正的打字错误和拼写错误；
• MultidomainGold：来自7个文本源的示例，包括开放网络、新闻、社交媒体、评论、字幕、政策文件和文学作品；
• MedSpellChecker：来自医疗病史的错误文本；
• GitHubTypoCorpusRu：GitHub提交中的拼写错误和打字错误；

RUSpellRU

MultidomainGold

MedSpellChecker

GitHubTypoCorpusRu

使用方法

from transformers import M2M100ForConditionalGeneration, M2M100Tokenizer

path_to_model = "ai-forever/sage-m2m100-1.2B"
model = M2M100ForConditionalGeneration.from_pretrained(path_to_model)
tokenizer = M2M100Tokenizer.from_pretrained(path_to_model, src_lang="ru", tgt_lang="ru")

sentence = "прийдя в МГТУ я был удивлен никого необноружив там…"
encodings = tokenizer(sentence, return_tensors="pt")
generated_tokens = model.generate(
        **encodings, forced_bos_token_id=tokenizer.get_lang_id("ru"))
answer = tokenizer.batch_decode(generated_tokens, skip_special_tokens=True)

print(answer)
#["来到莫斯科国立技术大学时，我很惊讶没有发现任何人..."]

资源

• SAGE库，GitHub
• sage-fredt5-large，HuggingFace
• sage-fredt5-distilled-95m，HuggingFace
• sage-m2m100-1.2B，HuggingFace
• sage-mt5-large，HuggingFace

许可证

我们的解决方案基于的 M2M100-1.2B 模型及其源代码遵循MIT开源许可证。
我们的解决方案同样采用MIT许可证。

规格

• 文件大小: 5 GB；
• 框架: pytorch
• 格式: AI服务
• 版本: v2.0
• 开发者: SberDevices, AGI NLP

联系方式

nikita.martynov.98@list.ru