语言: ["俄语"] 标签:

• 俄语
• 分类
• 情感分析
• 多类别 示例输入:
• 文本: "你们这鱼冻可真难吃！"

这是基于cointegrated/rubert-tiny模型微调后的版本，专门用于短篇俄语文本的情感分类。

该问题被定义为多类别分类任务：消极 vs 中性 vs 积极。

使用方法

以下函数用于评估给定文本的情感倾向：

# !pip install transformers sentencepiece --quiet
import torch
from transformers import AutoTokenizer, AutoModelForSequenceClassification

model_checkpoint = 'cointegrated/rubert-tiny-sentiment-balanced'
tokenizer = AutoTokenizer.from_pretrained(model_checkpoint)
model = AutoModelForSequenceClassification.from_pretrained(model_checkpoint)
if torch.cuda.is_available():
    model.cuda()
    
def get_sentiment(text, return_type='label'):
    """ 计算文本情感倾向。`return_type`可选参数：'label'（标签）、'score'（分数）或'proba'（概率） """
    with torch.no_grad():
        inputs = tokenizer(text, return_tensors='pt', truncation=True, padding=True).to(model.device)
        proba = torch.sigmoid(model(**inputs).logits).cpu().numpy()[0]
    if return_type == 'label':
        return model.config.id2label[proba.argmax()]
    elif return_type == 'score':
        return proba.dot([-1, 0, 1])
    return proba

text = '你们这鱼冻可真难吃！'
# 文本分类
print(get_sentiment(text, 'label'))  # 消极
# 在-1（非常消极）到+1（非常积极）的尺度上评分
print(get_sentiment(text, 'score'))  # -0.5894946306943893
# 计算所有标签的概率
print(get_sentiment(text, 'proba'))  # [0.7870447  0.4947824  0.19755007]

训练过程

我们在Smetanin收集的数据集上对模型进行了训练。我们将所有训练数据转换为3类格式，并通过上采样和下采样来平衡数据来源和类别。训练代码可参考Colab笔记本。在平衡测试集上的指标如下：