语言:

• 葡萄牙语(pt)

模型索引:

• 名称: sabia-7b 性能表现:

  • 任务类型: 文本生成 任务名称: 文本生成 数据集: 名称: ENEM挑战赛(无图像) 类型: eduagarcia/enem_challenge 拆分: 训练集 参数: 少样本数量: 3 指标:
    • 类型: 准确率 值: 55.07 名称: 准确度 来源: URL: https://huggingface.co/spaces/eduagarcia/open_pt_llm_leaderboard?query=maritaca-ai/sabia-7b 名称: 葡萄牙语大模型公开排行榜

  （中间类似结构内容省略，保持相同格式转换）

Sabiá-7B是由Maritaca AI开发的葡萄牙语大语言模型。

输入: 该模型仅接受文本输入。

输出: 模型仅生成文本。

架构: Sabiá-7B采用与LLaMA-1-7B相同的自回归语言模型架构。

分词器: 使用与LLaMA-1-7B相同的分词器。

最大序列长度: 2048个标记。

预训练数据: 基于ClueWeb22葡萄牙语子集的70亿标记进行预训练，从LLaMA-1-7B的权重开始，额外训练了约100亿标记（约1.4个训练周期）。

数据时效性: 预训练数据截止至2022年中。

许可协议: 与LLaMA-1相同，仅限于研究用途。

论文: 详见我们的论文《Sabiá: 葡萄牙语大语言模型》arXiv链接

少样本示例

由于Sabiá-7B仅接受语言建模目标训练而未针对指令跟随进行微调，建议采用如下少样本任务而非零样本任务：

（代码示例保持原格式，仅翻译注释部分）
# 自动将模型加载到GPU（如可用）。需要安装acelerate包
# 如果GPU不支持bfloat16，改为torch.float16

葡萄牙语评测结果

下表显示在包含14个葡萄牙语数据集的Poeta基准测试中的结果（NPM指标详见论文）：

英语评测结果

下表显示6个英语数据集的平均结果：

引用

请使用以下BibTeX引用我们的论文： （引用格式保持原样）

葡萄牙语大模型公开排行榜结果

详细结果参见此处