许可证: mit
语言:

• 高棉语
  评估指标:
• 准确率
  任务标签: 文本分类
  库名称: transformers

基于XLM-RoBERTa的高棉语金融情感分析

本仓库包含针对高棉语金融领域情感分析任务微调后的XLM-RoBERTa-base模型。该模型在约4,000条金融文本样本（含400条测试集）上完成训练。

目录

• 概述
• 模型详情
• 训练数据
• 训练细节
• 结果
• 使用方法

概述

金融文本（如报告、新闻、财报）蕴含重要的市场分析价值。然而高棉语金融文本在自然语言处理研究中长期被忽视。本项目基于XLM-RoBERTa-base模型，专门针对高棉语金融情感分析进行优化。

该模型可对金融文本情感进行二分类：

• 积极(1): 表示增长、盈利或积极前景
• 消极(0): 表示亏损、风险或财务衰退

模型详情

• 基础模型: XLM-RoBERTa-base
• 任务: 情感分析（二分类：积极/消极）
• 领域: 金融数据（高棉语）
• 数据集规模: 约4,000训练样本，400测试样本
• 架构: 基于Transformer的序列分类模型

训练数据

训练数据包含以下高棉语金融文本类型：

• 银行报告
• 财经新闻
• 经济预测
• 投资分析

数据集包含4,000条标注样本用于训练，400条样本用于测试。

训练细节

模型基于XLM-RoBERTa-base预训练模型，经过3轮微调。

训练配置:

• 学习率: 2e-5
• 批大小: 8
• 优化器: AdamW
• 评估策略: 每轮次
• 损失函数: 交叉熵损失

结果

• 准确率: 验证集约96%
• 优异表现: 可有效分类高棉语金融情感
• 领域优化: 微调过程增强了对高棉语金融术语的理解

使用方法

情感预测示例代码：

from transformers import AutoTokenizer, AutoModelForSequenceClassification  
import torch  

# 加载微调后的高棉语金融情感模型  
model_name = "songhieng/khmer-sentiment-xlm-roberta-base"  

# 加载分词器和模型  
tokenizer = AutoTokenizer.from_pretrained(model_name)  
model = AutoModelForSequenceClassification.from_pretrained(model_name)  

# 高棉语金融文本示例  
text = "ការប្រកាសចំណូលរបស់ក្រុមហ៊ុនមានការកើនឡើងយ៉ាងច្រើន"  
inputs = tokenizer(text, return_tensors="pt", truncation=True, max_length=512)  
outputs = model(**inputs)  

# 获取预测情感(0=消极, 1=积极)  
predicted_class = outputs.logits.argmax(dim=1).item()  
labels_mapping = {0: "消极", 1: "积极"}  
print(f"预测情感: {labels_mapping[predicted_class]}")