AIbase

I

Instruct Llama70B Dolly15k

由 Brillibits 开发
基于Llama-2-70B微调的指令跟随模型，使用Dolly15k数据集训练，适用于英语文本生成任务。
大型语言模型
Transformers
英语
#70B参数规模#指令微调优化#英语文本生成
下载量 114
发布时间 : 9/14/2023
模型介绍
内容详情
替代品

模型简介

该模型是基于Llama 2 Transformer架构的自回归语言模型，专门针对指令跟随任务进行了优化，能够生成高质量的英语文本响应。

模型特点

大规模参数
基于70B参数的Llama 2架构，具备强大的语言理解和生成能力。
指令优化
使用Dolly15k数据集专门针对指令跟随任务进行微调。
高效训练
采用QLora方法训练1.5个周期，在保持性能的同时提高训练效率。

模型能力

文本生成
指令跟随
诗歌创作
问答系统

使用案例

创意写作
诗歌生成
根据给定主题生成10行诗
示例：赛车主题的诗歌创作
信息查询
事实问答
回答历史事实问题
示例：美国第二任总统是谁？