语言: 俄语
许可证: Apache-2.0
标签:

• PyTorch
• Transformers

小部件示例:

• 文本: "请修正以下语音识别文本中的错误。机器学习任何算法的基石首先是其泛化能力当我们训练某个模型时我们拥有训练样本存在误差而我们的任务基本上归结为优化问题我们通过模型参数在训练选择上最小化误差函数但实际上我们想要的并非如此我们并非要最小化训练误差"
• 文本: "请简化以下文本。机器学习任何算法的基石首先是泛化能力。当我们训练某个模型时拥有训练样本和误差函数，任务本质上可归结为优化问题——我们通过模型参数在训练集上最小化误差函数。但实际目标并非如此！我们并非要最小化训练误差。"
• 文本: "请对以下文本进行摘要并提炼核心观点。本研究比较了在自然语言文本与合成伪语言句子上预训练Transformer的效果。人工文本通过我们编写的上下文无关文法规则自动生成。在RussianSuperGLUE任务上的微调结果统计显著表明：模型得分相同，说明使用人工数据能通过完全控制样本构成来提升AI安全性优势。同时表明RoBERTa类模型在预训练阶段只需学习可被上下文无关文法成功创建的语法和形态规律即可。"
• 文本: "请在以下文本中找出所有'地理位置'类命名实体并列出清单。S. Sitnikov是科斯特罗马本地人，在该地区广受欢迎。"
• 文本: "请在以下文本中找出所有'人物'类命名实体并列出清单。S. Sitnikov是科斯特罗马本地人，在该地区广受欢迎。"
• 文本: "请在以下文本中找出所有'组织机构'类命名实体并列出清单。毕业于科斯特罗马国立教育学院，专业为'历史与社会学教师，教育工作方法专家'。"
• 文本: "描述光合作用过程。"
• 文本: "用动词正确形式补全句子：'我...(写)信已经一小时了。'"

FRED-T5-large-instruct-v0.1

该模型由bond005开发，用于俄语文本自动编辑及问题解答，主要功能包括：

1. 语音识别纠错：修正ASR输出（特别是[Wav2Vec2-Large-Ru-Golos](https://huggingface.co/bond005/wav2vec2-large-ru-golos）的识别错误，恢复标点与大小写
2. 文本摘要：生成抽象式长文摘要
3. 段落划分：用\n分隔符切分长文本
4. 文本简化：将复杂句子改写得通俗易懂
5. 组织机构识别：经典NER任务变体，逐行列出文本中所有组织机构
6. 人物识别：经典NER任务变体，逐行列出文本中所有人物
7. 地理位置识别：经典NER任务变体，逐行列出文本中所有地点
8. 通用问答：回答各类问题并完成指令

使用说明

完整代码示例详见Colab笔记本。

语音识别纠错示例

纠错结果：
"机器学习任何算法的基石首先是泛化能力。当我们训练某个模型时，拥有训练样本和误差系数，任务本质上可归结为动机问题：我们通过模型参数在训练集上最小化误差函数，但实际上目标并非如此。我们要最小化的并非训练误差。"

文本摘要示例

摘要结果：
"研究比较了在自然语言与合成伪语言上预训练Transformer的效果。RussianSuperGLUE微调结果显示模型得分相同，表明人工数据通过完全控制样本构成能提升AI安全性优势。"

段落划分示例

分段结果：
"深度神经网络近年来成为解决大多数AI任务的最流行工具..."

"1. 神经网络构建可学习的表示层次..."

"2. 这种表示层次具有跨任务复用性..."

文本简化示例

简化结果：
"机器学习算法应关注泛化能力而非仅误差函数。训练时我们最小化误差函数，但目标不是最小化训练误差。"

命名实体识别示例

组织机构："科斯特罗马国立教育学院"
人物："S. Sitnikov"
地理位置："科斯特罗马"

通用问答示例

问："描述光合作用过程"
答："光合作用是植物利用光能将二氧化碳和水转化为葡萄糖和氧气的过程..."

问："用动词正确形式补全句子"
答："我写信已经一小时了。"

模型局限性

• 事实性错误：可能生成不正确代码或陈述，输出结果应视为建议而非最终方案
• 语言限制：主要理解标准俄语，俚语或其他语言可能产生误解
• 社会偏见：尽管经过数据安全处理，仍可能反映社会偏见
• 毒性内容：若明确指示可能生成有害内容

（注：所有示例输出均为俄语模型运行结果的中文翻译版本）