许可证：bigscience-bloom-rail-1.0
语言：

• 中文
  任务标签：文本生成
  示例输入：
• 文本：四月的某一天，天气晴朗寒冷，
• 文本：问：台湾最高的建筑物是？答：

BLOOM-zh

支持繁体中文增强的BLOOM语言模型

模型卡片

版本2.0 / 2023年4月10日

BLOOM-zh是中央研究院词库小组（链接）、联发科研究院（連結、连结、链接）与国家教育研究院（链接）的合作成果。本模型仅限非商业研究用途发布。

目录

1. 模型详情
2. 用途
3. 训练数据
4. 风险与限制
5. 建议
6. 模型卡片作者

模型详情

BLOOM-zh是具备繁体中文增强能力的语言模型，基于BLOOMZ开发。通过海量繁体中文文本数据的扩展训练，显著提升了模型的中文处理能力。

基础信息

• 开发机构： 联发科研究院
• 模型类型： 基于Transformer架构的语言模型
• 版本号： 2.0.0
• 支持语言： 多语种（详见训练数据）
• 许可证： 联发科研究院许可证（链接）及RAIL许可证v1.0（链接）
• 发布日期： 2023年4月10日（周一）
• 咨询邮箱： info@mtkresearch.com
• 论文： https://arxiv.org/abs/2303.04715
• 引用格式： 联发科研究院：支持繁体中文增强的BLOOM语言模型。国际版，2023年2月。
• 贡献机构：
  • 联发科研究院
  • 中央研究院
  • 国家教育研究院

技术规格

本部分面向模型开发人员提供技术细节。

技术规格请参阅BLOOM原模型说明。

环境影响

环境影响评估请参阅BLOOM原模型说明。

用途

本部分说明模型预期使用场景，讨论可能受影响的用户群体，并明确界定超出适用范围或滥用行为。适用于所有考虑使用或可能受模型影响的人员。

模型用途请参阅BLOOM原模型说明。

训练数据

本节概述训练数据构成，帮助理解模型学习的基础内容。

我们在总计115亿词符的高质量繁体中文文本上训练了这个11亿参数的模型，具体细节详见论文。

风险与限制

本节列举可预见的风险与认知偏差。

风险与限制请参阅BLOOM原模型说明。

影响因素

本节列出可能导致模型行为差异显著的关键维度。

• 虽然主要针对繁体中文训练，但预训练权重包含超过40种语言特征
• 训练数据涵盖网络爬取内容、新闻稿件、文学作品、知识库（百科全书、教育领域资料）及指令数据

建议

本节提供使用警告与潜在缓解方案。

建议内容请参阅BLOOM原模型说明。

模型卡片作者

按参与时间及贡献度排序

菲利普·恩南、许柏钧、许展荣、刘昌乐、吴彦辰、廖寅翔、林金同、钟启明、陈奕昌、萧大山、马伟云