基础模型:

• PleIAs/Pleias-1.2B-Preview 支持语言:
• 英语
• 法语
• 意大利语
• 德语
• 西班牙语 许可证: Apache-2.0 库名称: transformers 任务类型: 文本生成

Pleias-RAG-1B检索增强模型

完整技术报告

Pleias-RAG-1B 是一款具有12亿参数的小型推理模型，专为检索增强生成（RAG）、搜索和文献摘要任务设计。作为Pleias系列首代专业推理模型之一，该模型在标准检索增强基准测试（如HotPotQA、2wiki）中表现优于多数4B参数以下的SLM模型，并与Qwen-2.5-7B、Llama-3.1-8B等7-8B参数标准模型性能相当。这是目前唯一能在主要欧洲语言中保持稳定RAG性能，并确保系统性文献引证的小型语言模型。

凭借其精简参数量、在受限设备（包括手机）的易部署性，以及对事实准确性信息的原生支持，Pleias-RAG-1B为生成式AI开辟了全新应用场景。

核心特性

本模型采用特殊标记体系处理结构化输入（查询语句与文献源），生成包含推理过程和引证答案的结构化输出。建议配合专用API库实现最佳应用效果。

原生引证支持

模型基于输入文献自动生成带维基百科风格引注（）的答案，是目前极少数具备该特性的开源权重模型，也是首个面向实际部署设计的方案。与Anthropic的"引证模式"不同，本模型的引证完全自主生成，无需依赖外部文本分块处理，并创新性支持长段引文缩写功能（使用"(…)"标记）。

RAG推理机制

模型具备类智能体决策能力，可自主完成：

• 查询可理解性评估
• 简易问题快速响应判断（可调节推理深度）
• 文献充分性验证

结构化推理轨迹包含：

1. 查询语言识别（始终使用查询语言应答）
2. 查询分析报告（含标准应答/简略响应/查询重构/拒答建议）
3. 文献覆盖度评估
4. 最终答案草案生成

多语言能力

支持法语、德语、意大利语、西班牙语、波兰语、拉丁语和葡萄牙语，是目前唯一在欧洲主流语言RAG任务中性能损失可忽略的SLM。在HotPotQA多语言测试集上，多数1B以下参数模型的性能下降达30-35%，而本模型保持稳定表现。

训练与评估

基于Common Corpus构建的多语言合成数据集训练，集成查询路由、文献重排等RAG工作流特性。在2wiki、HotpotQA和MuSique三大基准测试中，针对多跳推理和干扰文献过滤场景表现优异。

部署方案

推荐使用官方库实现标准化JSON输出，提供Colab演示。典型应用示例：

from rag_library import RAGWithCitations

rag = RAGWithCitations("PleIAs/Pleias-RAG-1B")

# 设置查询与文献
query = "法国首都是哪里？"
sources = [
    {
        "text": "巴黎是法国首都及最大城市，2019年1月统计人口约214万，作为法兰西岛大区中心，在经济政治文化领域具有核心地位。埃菲尔铁塔、凯旋门等标志性建筑使其成为全球热门旅游目的地。",
        "metadata": {"来源": "地理百科全书", "可信度": "高"}
    }
]

# 生成响应
response = rag.generate(query, sources)

# 输出带引证的答案
print(response["processed"]["clean_answer"])

预期输出：

法国首都是巴黎。<|source_id|>1明确记载"巴黎是法国首都及最大城市"[1]。

**引证**
[1] "巴黎是法国首都及最大城市" [来源1]

模型提供未量化GGUF版本，在8G内存设备上复杂推理任务响应时间约20秒，文本生成质量与原始模型完全一致。适用于教育辅助、用户支持等非对话场景，通过外接知识库实现生产环境部署。