library_name: transformers language:

• 阿拉伯语
• 捷克语
• 德语
• 英语
• 西班牙语
• 法语
• 印地语
• 意大利语
• 日语
• 韩语
• 荷兰语
• 波兰语
• 葡萄牙语
• 罗马尼亚语
• 俄语
• 瑞典语
• 乌尔都语
• 中文 tags:
• 猎鹰H1模型 license: other license_name: 猎鹰大模型许可证 license_link: https://falconllm.tii.ae/falcon-terms-and-conditions.html

目录

0. 摘要
1. 模型详情
2. 训练细节
3. 使用指南
4. 性能评估
5. 引用方式

摘要

模型详情

模型描述

• 开发机构: 阿联酋技术创新研究院
• 模型类型: 因果解码架构
• 架构特点: 混合Transformer与Mamba架构
• 支持语言: 英语、多语种
• 许可协议: 猎鹰大模型许可证

训练细节

本模型的完整训练方案详见猎鹰H1技术博客。

使用指南

当前可通过Hugging Face的transformers库、vLLM或我们定制的llama.cpp分支版本来使用本模型。

推理部署

请确保安装最新版transformers或vllm，推荐从源码安装：

pip install git+https://github.com/huggingface/transformers.git

vLLM官方文档提供了详细的源码编译指南。

🤗 transformers

使用以下代码片段运行H1系列模型：

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

model_id = "tiiuae/Falcon-H1-1B-Base"

model = AutoModelForCausalLM.from_pretrained(
  model_id,
  torch_dtype=torch.bfloat16,
  device_map="auto"
)

# 执行文本生成任务

vLLM部署

通过以下命令启动vLLM服务：

# pip install vllm
vllm serve tiiuae/Falcon-H1-1B-Instruct --tensor-parallel-size 2 --data-parallel-size 1

llama.cpp定制版

我们正在将架构整合至官方llama.cpp库，目前可使用定制分支版本：llama.cpp-Falcon-H1 安装方式与原生llama.cpp相同。

性能评估

猎鹰H1系列在各类任务中表现卓越，尤其在推理任务中优势显著。

完整评测结果请参阅发布博客。

相关资源

• 查阅发布博客
• 加入Discord社区与研发团队直接交流

引用方式

若猎鹰H1系列模型对您的研究有所帮助，请引用以下文献：

@misc{tiifalconh1,
    title = {猎鹰H1：重新定义效率与性能的混合架构语言模型家族},
    url = {https://falcon-lm.github.io/blog/falcon-h1},
    author = {猎鹰大模型团队},
    month = {5月},
    year = {2025}
}