AIbase

C

Chargpt 96M

由 inkoziev 开发
CharGPT-96M 是一个采用字符级分词的小型语言模型，适用于各种实验场景，尤其是当BPE（子词）分词导致任务表现不佳时。
大型语言模型
Transformers
其他
开源协议:Openrail#字符级分词#小型语言模型#俄语支持
下载量 70
发布时间 : 8/15/2023
模型介绍
内容详情
替代品

模型简介

这是一个字符级分词的小型语言模型，适用于实验场景，特别适用于BPE分词效果不佳的任务。

模型特点

字符级分词
采用字符级分词，避免BPE分词在某些任务中的表现不佳问题。
小型模型
参数规模为96M，适合实验和轻量级应用。
俄语支持
专门支持俄语文本处理。

模型能力

文本生成
字符级语言建模

使用案例

实验研究
字符级语言模型实验
用于研究字符级分词在语言模型中的效果。
文本生成
俄语文本生成
生成俄语文本，适用于需要字符级控制的场景。