language: zh license: apache-2.0

team-lucid/t5-v1_1-base-ko

谷歌T5 1.1版本，基于韩语语料库训练

t5-v1_1-base-ko是在韩语语料库上训练的t5 v1.1模型。

为了防止OOV（未登录词）问题，采用了BBPE（字节级BPE）技术。受HyperCLOVA研究中形态素分析对性能提升的启发，在分词器训练过程中使用MeCab确保形态素不会被异常切分。

本研究通过谷歌TPU研究云（TRC）计划获得Cloud TPU计算资源支持。

使用示例

from transformers import AutoTokenizer, T5ForConditionalGeneration

tokenizer = AutoTokenizer.from_pretrained('team-lucid/t5-v1_1-base-ko')
model = T5ForConditionalGeneration.from_pretrained('team-lucid/t5-v1_1-base-ko')