language: "en" tags:

• 金融语言建模 widget:
• text: "股市大涨，英镑[MASK]。"

数据集概述

• 主页: https://salt-nlp.github.io/FLANG/
• 模型: https://huggingface.co/SALT-NLP/FLANG-BERT
• 代码库: https://github.com/SALT-NLP/FLANG

FLANG

FLANG是一套针对金融语言任务的大规模语言模型。这些模型通过领域特定的预训练和优先掩码策略，构建了更健壮的领域表征。该系列包含以下模型：
FLANG-BERT
FLANG-SpanBERT
FLANG-DistilBERT
FLANG-Roberta
FLANG-ELECTRA

FLANG-BERT

FLANG-BERT是一个预训练语言模型，采用金融关键词和短语对领域术语进行优先掩码处理。该模型基于BERT架构，通过在金融领域进一步训练，并利用领域知识和词汇表，其性能较先前模型有显著提升。

FLUE

FLUE（金融语言理解评估基准）是一个综合异构的评测体系，由5个不同金融领域数据集构建而成：

情感分类: 金融短语库
情感分析与问答: FiQA 2018
新闻标题分类: 头条新闻
命名实体识别: 金融NER
结构边界检测: FinSBD3

引用

请使用以下文献引用本模型：

@INPROCEEDINGS{shah-etal-2022-flang,
    author = {Shah, Raj Sanjay 等},
    title = {当FLUE遇见FLANG：金融领域的基准测试与大预训练语言模型},
    booktitle = {2022年自然语言处理实证方法会议论文集},
    year = {2022},
    publisher = {计算语言学协会}
}

联系方式

如有关于FLANG-BERT的问题，请联系：Raj Sanjay Shah (rajsanjayshah[at]gatech[dot]edu)、Sudheer Chava (schava6[at]gatech[dot]edu) 或 Diyi Yang (diyiy[at]stanford[dot]edu)。

license: afl-3.0