语言: 中文
标签:

• 金融情感分析
• 情感分析
  数据集:
• financial_phrasebank
  示例输入:
• 文本: 营业利润从2007年同期的870万欧元增至1310万欧元，占净销售额的7.7%。
• 文本: 出价或报价至少包含1000股，且股票价值至少需对应4000欧元。
• 文本: Raute公司报告2009年上半年每股亏损0.86欧元，而2008年同期每股收益为0.74欧元。

金融领域情感分析专用FinancialBERT模型

FinancialBERT是基于海量金融文本预训练的BERT模型。其目标是通过免去训练模型所需的巨额计算资源，助力金融从业者与研究者开展金融自然语言处理研究与实践。

该模型在《金融短语库》数据集上针对情感分析任务进行了微调。实验表明，其性能优于通用BERT模型及其他金融领域专用模型。

预训练过程详情请参阅：https://www.researchgate.net/publication/358284785_FinancialBERT_-_A_Pretrained_Language_Model_for_Financial_Text_Mining

训练数据

模型基于金融短语库微调，该数据集包含4840条按情感（负面/中性/正面）分类的金融新闻。

微调超参数

• 学习率 = 2e-5
• 批大小 = 32
• 最大序列长度 = 512
• 训练轮次 = 5

评估指标

采用精确率、召回率与F1值评估，测试集分类报告如下：

使用方式

通过Transformers情感分析管道调用模型：

from transformers import BertTokenizer, BertForSequenceClassification  
from transformers import pipeline  

model = BertForSequenceClassification.from_pretrained("ahmedrachid/FinancialBERT-Sentiment-Analysis",num_labels=3)  
tokenizer = BertTokenizer.from_pretrained("ahmedrachid/FinancialBERT-Sentiment-Analysis")  

nlp = pipeline("sentiment-analysis", model=model, tokenizer=tokenizer)  

sentences = ["营业利润从2007年同期的870万欧元增至1310万欧元，占净销售额的7.7%。",  
             "出价或报价至少包含1000股，且股票价值至少需对应4000欧元。",  
             "Raute公司报告2009年上半年每股亏损0.86欧元，而2008年同期每股收益为0.74欧元。"]  
results = nlp(sentences)  
print(results)  

[{'label': '正面', 'score': 0.9998133778572083},  
 {'label': '中性', 'score': 0.9997822642326355},  
 {'label': '负面', 'score': 0.9877365231513977}]  

开发者: Ahmed Rachid Hazourli