AIbase

L

Llama 3 8B Instruct Coder

由 rombodawg 开发
基于Meta的llama-3-8b-instruct模型，在65k代码反馈数据集及额外15万条代码反馈指令组合数据集上训练而成，专注于代码生成与反馈任务。
大型语言模型
Transformers
英语
开源协议:Apache-2.0#低显存代码生成#QLoRA-Galore优化#指令微调编程助手
下载量 81
发布时间 : 5/4/2024
模型介绍
内容详情
替代品

模型简介

该模型是一个经过优化的代码生成与反馈模型，采用Qalore方法训练，显著降低显存需求，适合代码相关任务。

模型特点

Qalore训练方法
结合QLoRA与Galore方法，显著降低显存需求，仅需14.5GB显存即可加载8B参数模型。
高效训练
在RTX A4000 16GB显卡上以130小时完成训练，成本低于20美元。
代码优化
在65k代码反馈数据集及额外15万条代码反馈指令组合数据集上训练，专注于代码生成与反馈任务。

模型能力

代码生成
代码反馈
指令理解

使用案例

软件开发
代码自动补全
根据上下文生成代码片段，提高开发效率。
代码错误反馈
提供代码改进建议和错误修复方案。