license: apache-2.0 language:

• en

模型介绍

我们推出LUXIA-21.4B-Alignment——一款拥有214亿参数的大语言模型（LLM），在各类自然语言处理（NLP）任务中展现出卓越性能。

该模型在参数量35B以下的模型中展现了无与伦比的顶尖性能，甚至超越了72B参数模型和34Bx2混合专家（MoE）模型。具体评估结果请参见评测数据表。

luxia-21.4b-alignment模型通过DPO训练从luxia-21.4b-instruct模型衍生而来，而luxia-21.4b-instruct模型又是luxia-21.4b模型经过监督微调（SFT）的版本。我们计划近期同步开源预训练模型和指令微调模型。

指令微调策略

luxia-21.4b基础模型

我们基于internlm2-20b-llama模型，通过层穿透扩展技术构建基础架构，并通过持续预训练来恢复模型性能。

luxia-21.4b-instruct指令模型

采用最先进的指令微调方法，包括：

• 监督微调（SFT）

训练数据融合了以下优质数据集：

• c-s-ale/alpaca-gpt4-data
• Open-Orca/SlimOrca
• 基于Metamath自研生成数据

luxia-21.4b-alignment对齐模型

运用前沿对齐优化技术，包括：

• 直接偏好优化（DPO）

训练数据整合了以下精选数据集：

• jondurbin/truthy-dpo-v0.1
• abacusai/ARC_DPO_FewShot
• abacusai/HellaSwag_DPO_FewShot

数据污染检测结果

采用https://github.com/swj0419/detect-pretrain-code-contamination/tree/master工具，以internlm2-20b-llama为参照模型进行检测。luxia-21.4b-alignment-v1.2版本结果如下：

Open LLM评测榜表现

使用指南

调用方式

# 安装依赖 pip install transformers==4.35.2
import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

tokenizer = AutoTokenizer.from_pretrained("saltlux/luxia-21.4b-alignment-v1.2")
model = AutoModelForCausalLM.from_pretrained(
    "saltlux/luxia-21.4b-alignment-v1.2",
    device_map="auto",
    torch_dtype=torch.bfloat16,
)

许可协议

• saltlux/luxia-21.4b-alignment-v1.2: apache-2.0

联系我们

欢迎通过讨论区提交任何问题与建议。