🚀 roberta-classical-chinese-base-sentence-segmentation

这是一个基于RoBERTa架构的预训练模型，专门用于文言文句子切分，能有效处理文言文文本的断句问题。

🚀 快速开始

此模型是在文言文文本上预训练的RoBERTa模型，用于句子切分。它源自 roberta-classical-chinese-base-char。每个切分后的句子以标记类别 "B" 开头，以标记类别 "E" 结尾（单字符句子的标记类别为 "S"）。

💻 使用示例

基础用法

import torch
from transformers import AutoTokenizer,AutoModelForTokenClassification
tokenizer=AutoTokenizer.from_pretrained("KoichiYasuoka/roberta-classical-chinese-base-sentence-segmentation")
model=AutoModelForTokenClassification.from_pretrained("KoichiYasuoka/roberta-classical-chinese-base-sentence-segmentation")
s="子曰學而時習之不亦説乎有朋自遠方來不亦樂乎人不知而不慍不亦君子乎"
p=[model.config.id2label[q] for q in torch.argmax(model(tokenizer.encode(s,return_tensors="pt"))["logits"],dim=2)[0].tolist()[1:-1]]
print("".join(c+"。" if q=="E" or q=="S" else c for c,q in zip(s,p)))

📚 详细文档

引用信息

Koichi Yasuoka: Sentence Segmentation of Classical Chinese Texts Using Transformers and BERT/RoBERTa Models, IPSJ Symposium Series, Vol.2021, No.1 (December 2021), pp.104-109.

📄 许可证

该模型使用的许可证为 "apache-2.0"。

模型信息表格