language: zh

文心健康-中文版

简介

文心健康（ERNIE-health）是一款基于中文生物医学领域文本预训练的语言模型，其训练数据来源于脱敏处理的在线医患对话、电子病历及医学教材等专业文本。

更多详情请参阅： https://github.com/PaddlePaddle/PaddleNLP/blob/develop/model_zoo/ernie-health/ https://arxiv.org/pdf/2110.07244.pdf

已发布模型信息

本版本PyTorch模型由官方发布的PaddlePaddle版ERNIE模型转换而来，并通过系列实验验证了转换结果的准确性。

• 官方PaddlePaddle版ERNIE仓库：https://github.com/PaddlePaddle/PaddleNLP/blob/develop/model_zoo/ernie-health/
• PyTorch转换项目仓库：https://github.com/nghuyong/ERNIE-Pytorch

使用方式

from transformers import AutoTokenizer, AutoModel
tokenizer = AutoTokenizer.from_pretrained("nghuyong/ernie-health-zh")
model = AutoModel.from_pretrained("nghuyong/ernie-health-zh")

引用文献

@article{wang2021building,
  title={通过多层次文本判别构建中文生物医学语言模型},
  author={王权, 戴松泰, 徐本锋, 吕雅娟, 朱勇, 吴华, 王海峰},
  journal={arXiv预印本 arXiv:2110.07244},
  year={2021}
}