ReviewBERT

基于评论语料库进行（后）训练的BERT模型，用于理解情感、选项及各类电子商务相关内容。

BERT-DK_rest 模型训练自Yelp提供的1G（19类）餐厅数据。
BERT-PT_* 系列模型额外使用了SQuAD 1.1数据集进行增强训练。

模型描述

基础模型源自BERT-base-uncased（基于Wikipedia+BookCorpus训练）。
本系列模型通过亚马逊数据集和Yelp数据集进行后训练优化。

使用指南

加载后训练权重非常简单，例如：

import torch
from transformers import AutoModel, AutoTokenizer

tokenizer = AutoTokenizer.from_pretrained("activebus/BERT-PT_rest")
model = AutoModel.from_pretrained("activebus/BERT-PT_rest")

评估结果

详见我们在NAACL发表的论文

引用规范

若此工作对您有所帮助，请按以下格式引用：

@inproceedings{xu_bert2019,
    title = "BERT后训练在评论阅读理解与基于方面的情感分析中的应用",
    author = "徐虎、刘冰、舒磊、余菲利普·S",
    booktitle = "北美计算语言学协会2019年会论文集",
    month = "6月",
    year = "2019",
}