HeBERT：用于极性分析和情感识别的预训练BERT模型

HeBERT是一个希伯来语预训练语言模型。它基于谷歌BERT架构，采用BERT-Base配置。

HeBERT在三个数据集上进行训练：

1. 希伯来语版OSCAR：约9.8GB数据，包含10亿单词和2080万句子
2. 希伯来语维基百科转储：约650MB数据，包含6300万单词和380万句子
3. 为本研究专门收集的情感用户生成内容(UGC)数据（如下所述）

命名实体识别(NER)

模型识别文本中命名实体（如人名、组织名和地名）的能力，测试数据来自Ben Mordecai和M Elhadad(2005)，使用F1分数评估。

使用方法

	from transformers import pipeline
	
	# 如何使用？
	NER = pipeline(
	    "token-classification",
	    model="avichr/heBERT_NER",
	    tokenizer="avichr/heBERT_NER",
	)
	NER('大卫在耶路撒冷的希伯来大学学习')

其他任务

情感识别模型 在线模型可在huggingface空间或colab笔记本体验
情感分析
掩码语言模型（可微调用于任何下游任务）

联系我们

Avichay Chriqui
Inbal yahav
科勒闪族语言人工智能实验室
感谢您，תודה（希伯来语感谢），شكرا（阿拉伯语感谢）

若使用本模型请引用：

Chriqui, A., & Yahav, I. (2021). HeBERT & HebEMO: 希伯来语BERT模型及极性分析与情感识别工具. arXiv预印本 arXiv:2102.01909.

@article{chriqui2021hebert,
  title={HeBERT \& HebEMO: 希伯来语BERT模型及极性分析与情感识别工具},
  author={Chriqui, Avihay and Yahav, Inbal},
  journal={arXiv预印本 arXiv:2102.01909},
  year={2021}
}

GitHub仓库