语言:

• 印尼语
  数据集:
• allenai/c4

印尼语T5小型模型

本模型是基于印尼语mC4数据集（经过额外过滤处理）预训练的T5（文本到文本转换Transformer）模型。该模型仅为预训练版本，需经过微调才能应用于具体任务。

预训练详情

参照google/t5-v1_1-small配置训练100万步。

模型性能

待评估

局限性与偏差

由于训练数据内容偏差（涉及不道德、有害或偏见内容），该语言模型在输出时可能存在偏差问题，这是使用大规模语料库的共性风险。鉴于该潜在问题，请谨慎使用本模型，确保仅应用于不会造成损害的场景。

致谢

感谢Tensorflow Research Cloud提供TPU v3-8算力支持。