许可证: apache-2.0
标签:

• 终端模板

FLAN-T5 XXL 的分支版本

这是google/flan-t5-xxl的一个分支版本，实现了自定义的handler.py，作为在单个NVIDIA A10G上通过推理终端使用t5-11b的示例。

您可以通过一键部署来部署flan-t5-xxl。
由于我们使用的是“量化”版本，因此可以将实例类型切换为**“GPU [medium] · 1x Nvidia A10G”**。

简而言之

如果您已经了解T5，那么FLAN-T5在各方面都更胜一筹。在参数数量相同的情况下，这些模型已在超过1000个额外任务上进行了微调，涵盖了更多语言。
正如摘要开头几行所述：

Flan-PaLM 540B在多个基准测试中达到了最先进的性能，例如在五样本MMLU上达到了75.2%。我们还公开发布了Flan-T5的检查点，这些检查点即使与更大的模型（如PaLM 62B）相比，也表现出强大的少样本性能。总的来说，指令微调是提高预训练语言模型性能和可用性的通用方法。

免责声明：本模型卡的内容由Hugging Face团队撰写，部分内容复制自T5模型卡。

模型详情

模型描述

• 模型类型：语言模型
• 支持的语言（NLP）：英语、西班牙语、日语、波斯语、印地语、法语、中文、孟加拉语、古吉拉特语、德语、泰卢固语、意大利语、阿拉伯语、波兰语、泰米尔语、马拉地语、马拉雅拉姆语、奥里亚语、旁遮普语、葡萄牙语、乌尔都语、加利西亚语、希伯来语、韩语、加泰罗尼亚语、泰语、荷兰语、印尼语、越南语、保加利亚语、菲律宾语、高棉语、老挝语、土耳其语、俄语、克罗地亚语、瑞典语、约鲁巴语、库尔德语、缅甸语、马来语、捷克语、芬兰语、索马里语、他加禄语、斯瓦希里语、僧伽罗语、卡纳达语、壮语、伊博语、科萨语、罗马尼亚语、海地语、爱沙尼亚语、斯洛伐克语、立陶宛语、希腊语、尼泊尔语、阿萨姆语、挪威语
• 许可证：Apache 2.0
• 相关模型：所有FLAN-T5检查点
• 原始检查点：所有原始FLAN-T5检查点
• 更多信息资源：
  • 研究论文
  • GitHub仓库
  • Hugging Face FLAN-T5文档（与T5类似）